/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2295 by torben, Sun Feb 15 09:57:55 2015 UTC revision 2383 by torben, Thu Feb 26 11:25:26 2015 UTC
# Line 1  Line 1 
1  package dk.daoas.daoadresseservice;  package dk.daoas.daoadresseservice;
2    
3  import java.sql.SQLException;  import java.sql.SQLException;
4    import java.text.SimpleDateFormat;
5    import java.util.ArrayList;
6    import java.util.Collections;
7    import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
9  import java.util.HashSet;  import java.util.HashSet;
10  import java.util.List;  import java.util.List;
# Line 8  import java.util.Map; Line 12  import java.util.Map;
12  import java.util.Set;  import java.util.Set;
13  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
14    
15  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;  import org.apache.commons.lang3.StringUtils;
16    
17    import dk.daoas.daoadresseservice.admin.ServiceConfig;
18  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
19    import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
20  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
21  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
22  import dk.daoas.daoadresseservice.beans.SearchResult;  import dk.daoas.daoadresseservice.beans.SearchResult;
# Line 18  import dk.daoas.daoadresseservice.db.Dat Line 25  import dk.daoas.daoadresseservice.db.Dat
25    
26  public class AdressSearch {  public class AdressSearch {
27    
28          Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;      
29          Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Long,  Map<String,Address>> searchGadeidentAdresser;
30    
31          List<Address> alleAdresser;          private List<Address> alleAdresser;
32            
33            private Map<String,Long> helperCache;
34                    
35            private DataStatisticsBean stats = new DataStatisticsBean();
36                    
37          Map<Integer,HundredePctBean> hundredePct;          ServiceConfig config;
38            
39            public AdressSearch(ServiceConfig config) {
40                    this.config = config;
41            }
42                    
43                    
44          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
45  //long start1 = System.currentTimeMillis();                  
46                    SearchResult result = new SearchResult();
47                                    
48                  int postnr=0;                  int postnr=0;
49    
50                    String helperSearchKey = "";
51                                    
52                  try {                  try {
53                          postnr = Integer.parseInt(postnrStr);                          postnr = Integer.parseInt(postnrStr);
54                  } catch (Exception E) {                  } catch (Exception E) {
55                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
56                            return result;
57                  }                                }              
 //long start2 = System.currentTimeMillis();  
58                                    
59                  Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                                      Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                    
60                                    
61                  if (postnrVeje == null) {                  if (postnrVeje == null) {
62                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
63                            return result;
64                  }                  }
65                                    
 //long start3 = System.currentTimeMillis();  
66                                    
67                  SplitResult split = AddressUtils.splitAdresse(adresse);                  result.splitResult = AddressUtils.splitAdresse(adresse);
68                  String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                                                                            
69                                    
70                  if (split.husnr.length() == 0) {                  if (result.splitResult.husnr.length() == 0) {
71                          return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                                                result.status = Status.ERROR_MISSING_HOUSENUMBER;
72                            return result;
73                  }                  }
74  //long start4 = System.currentTimeMillis();                  
75                    String vasketVejnavn = AddressUtils.vaskVejnavn( result.splitResult.vej );
76                                    
77                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  Long gadeident =  postnrVeje.get(vasketVejnavn);
78                  if (gadeident == null) {                  
79                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);                  
80                    if ( gadeident == null) {
81                            helperSearchKey = "" + postnr + "/" + vasketVejnavn;
82                            gadeident = helperCache.get(helperSearchKey);
83                  }                  }
 //long start5 = System.currentTimeMillis();  
84                                    
                 Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle  
85                                    
86  //long start6 = System.currentTimeMillis();                  // Brug OpenStreetMap før vi prøver google
87                    // For google har en request limit, det har OSM ikke!
88                    if ( gadeident == null) {
89                            if (config.useOpenStreetMaps) {
90                                    result.osmVej = GeocodeHelper.openstreetmapHelper(config, postnr, result.splitResult.vej );
91                                    result.osm = true;
92                                    
93                                    if (result.osmVej != null) {
94                                            String osmVasket = AddressUtils.vaskVejnavn( result.osmVej );
95                                            gadeident =  postnrVeje.get(osmVasket);
96                                            
97                                            if (gadeident != null) {
98                                                    helperCache.put(helperSearchKey, gadeident);
99                                            }
100                                    }
101                            }
102                    }
103                                    
104                  String husnrSearch = "" + split.husnr + split.litra;                  if ( gadeident == null) {
105                  Address addr = gade.get(husnrSearch);                          if (config.useGoogle) {
106  //long start7 = System.currentTimeMillis();                                  result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitResult.vej );
107                  if (addr == null) {                                  result.google = true;
108                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);                                  
109                                    if (result.googleVej != null) {
110                                            String googleVasket = AddressUtils.vaskVejnavn( result.googleVej );
111                                            gadeident =  postnrVeje.get(googleVasket);
112                                            
113                                            if (gadeident != null) {
114                                                    helperCache.put(helperSearchKey, gadeident);
115                                            }
116                                    }
117                            }
118                  }                  }
119                                    
120                  if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {  
121                          return new SearchResult(Status.STATUS_NOT_COVERED);                  
122                    if (gadeident == null) {                        
123                            result.status = Status.ERROR_UNKNOWN_STREETNAME;
124                            return result;
125                  }                  }
126                                    
127                  if (addr.distributor.equals("LUKKET")) {                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);
128                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?                  if (gade == null) { //Denne søgning må ikke fejle
129                            result.status = Status.ERROR_INTERNAL;
130                            return result;                  
131                  }                  }
132                                    
133  /*                  
134  System.out.println("Search2: " + (start2-start1) );                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;
135  System.out.println("Search3: " + (start3-start1) );                  Address addr = gade.get(husnrSearch);
 System.out.println("Search4: " + (start4-start1) );  
 System.out.println("Search5: " + (start5-start1) );  
 System.out.println("Search6: " + (start6-start1) );  
 System.out.println("Search7: " + (start7-start1) );  
 */  
136    
137                                                    if (addr == null) {
138                            result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
139                            return result;
140                    }
141                    
142                    result.address = addr;
143                                    
144                  return new SearchResult(addr);                  
145                    if ( StringUtils.equals(addr.distributor, "LUKKET") ) {                
146                            result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
147                            return result;
148                    }                              
149                    
150                    if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
151                            result.status = Status.STATUS_NOT_COVERED;
152                            return result;
153                    }
154    
155                    
156                    result.status = Status.STATUS_OK;
157    
158                    return result;
159          }          }
160                    
161                    
162          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
163                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
164                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();
165                                                    helperCache = new ConcurrentHashMap<String,Long>();
166                    
167                    long start1 = System.currentTimeMillis();
168                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
169                                    
170                  alleAdresser = DatabaseLayer.getAllAdresses();                  alleAdresser = DatabaseLayer.getAllAdresses();
# Line 141  System.out.println("Search7: " + (start7 Line 207  System.out.println("Search7: " + (start7
207                                    
208                                    
209                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
210                    long start2 = System.currentTimeMillis();
211                    System.out.println("Build, stage1 elapsed: " + (start2-start1) );
212                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 udvidet dækning");
213                                    
214                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
# Line 198  System.out.println("Search7: " + (start7 Line 266  System.out.println("Search7: " + (start7
266                  idAddressMap = null;                  idAddressMap = null;
267                                    
268                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
269                    long start3 = System.currentTimeMillis();
270                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
271                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 3 - 100pct");
272                                    
273                  hundredePct = DatabaseLayer.get100PctList();                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
274                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
275                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                                                  if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                        
276                                  continue;                                  continue;
# Line 224  System.out.println("Search7: " + (start7 Line 294  System.out.println("Search7: " + (start7
294                  }                  }
295                                    
296                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
297                    long stop = System.currentTimeMillis();
298                    System.out.println("Build, stage3 elapsed: " + (stop-start3) );
299                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
300                                                    
                 int direkteCount = 0;  
                 int extendedCount = 0;  
                 int hundredePctCount = 0;  
                 int ikkeDaekketCount = 0;  
                   
301                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
302                          switch (addr.daekningsType) {                          switch (addr.daekningsType) {
303                          case DAEKNING_DIREKTE:                          case DAEKNING_DIREKTE:
304                                  direkteCount++;                                  stats.direkteCount++;
305                                  break;                                  break;
306                          case DAEKNING_UDVIDET:                          case DAEKNING_UDVIDET:
307                                  extendedCount++;                                  stats.extendedCount++;
308                                  break;                                  break;
309                          case DAEKNING_100PCT:                          case DAEKNING_100PCT:
310                                  hundredePctCount++;                                  stats.hundredePctCount++;
311                                  break;                                  break;
312                          default:                          default:
313                                  ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
314                          }                          }
315                  }                  }              
316                    
317                                    
318                  System.out.println("Build: direkteCount: " + direkteCount);                  stats.elapsed = stop-start1;            
319                  System.out.println("Build: extendedCount: " + extendedCount);                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
                 System.out.println("Build: hundredePctCount: " + hundredePctCount);  
                 System.out.println("Build: ikkeDaekketCount: " + ikkeDaekketCount);  
320                                    
321                    System.out.println("Build: direkteCount: " + stats.direkteCount);
322                    System.out.println("Build: extendedCount: " + stats.extendedCount);
323                    System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
324                    System.out.println("Build: ikkeDaekketCount: " + stats.ikkeDaekketCount);
325                    
326                    System.out.println("Build: Total Elapsed: " + (stop-start1) );
327                  System.out.println("Build Completed");                  System.out.println("Build Completed");
328                                    
329          }          }
330                    
331            public DataStatisticsBean getStatistics() {
332                    return stats;
333            }
334            
335            public void clear() {
336                    searchPostnrVejnavnGadeid.clear();
337                    searchGadeidentAdresser.clear();
338                    alleAdresser.clear();
339                    helperCache.clear();
340            }
341            
342                    
343          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
344    
# Line 296  System.out.println("Search7: " + (start7 Line 379  System.out.println("Search7: " + (start7
379                          break;                          break;
380                  }                                }              
381                  return null;                  return null;
382          }                }
383            
384            public List<Address> getNonCoveredAddresses() {
385                    List<Address> result = new ArrayList<Address>(60000);
386                    for (Address a : alleAdresser) {
387                            if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
388                                    result.add(a);
389                            }
390                    }
391                    Collections.sort(result );
392                    return result;
393            }
394                    
395          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
396          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
# Line 311  System.out.println("Search7: " + (start7 Line 405  System.out.println("Search7: " + (start7
405                    
406          private Set<String> findVejAliaser(String vejnavn) {          private Set<String> findVejAliaser(String vejnavn) {
407                  vejnavn = vejnavn.toLowerCase();                  vejnavn = vejnavn.toLowerCase();
408                  Set<String> aliasSet = new HashSet<String>();                  HashSet<String> aliasSet = new HashSet<String>();
409                  aliasSet.add(vejnavn);                  aliasSet.add(vejnavn);
410                                    
411                  aliasSet.add(vejnavn.replace("alle", "allé") );                  aliasSet.add(vejnavn.replace("u", "ü") );
412                  aliasSet.add(vejnavn.replace("allé", "alle") );                  aliasSet.add(vejnavn.replace("ü", "u") );
                   
                 // danske tegn 1  
                 aliasSet.add(vejnavn.replace("æ", "ae") );  
                 aliasSet.add(vejnavn.replace("ø", "oe") );  
                 aliasSet.add(vejnavn.replace("å", "aa") );  
                 aliasSet.add(vejnavn.replace("ae", "æ") );  
                 aliasSet.add(vejnavn.replace("oe", "ø") );  
                 aliasSet.add(vejnavn.replace("aa", "å") );  
                   
                 //danske tegn 2  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe") );  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ø", "ae").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("oe","ø") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("aa","å") );  
                 aliasSet.add( vejnavn.replace("oe", "ø").replace("aa", "å") );  
                   
                 //danske tegn 3  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );  
413                                    
414                    aliasSet.add(vejnavn.replace("alle", "allé") );
415                    aliasSet.add(vejnavn.replace("allé", "alle") );                
416                                    
417                  aliasSet.add(vejnavn.replace("dronningens", "dr") );                  aliasSet.add(vejnavn.replace("dronningens", "dr") );
418                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );
# Line 367  System.out.println("Search7: " + (start7 Line 443  System.out.println("Search7: " + (start7
443                  aliasSet.add(vejnavn.replace("ndr", "nordre") );                  aliasSet.add(vejnavn.replace("ndr", "nordre") );
444                                                                    
445                  aliasSet.add(vejnavn.replace("sankt", "skt") );                  aliasSet.add(vejnavn.replace("sankt", "skt") );
446                    aliasSet.add(vejnavn.replace("sankt", "sct") );
447                  aliasSet.add(vejnavn.replace("skt", "sankt") );                  aliasSet.add(vejnavn.replace("skt", "sankt") );
448                                    
449                  aliasSet.add(vejnavn.replace("skt", "sct") );                  aliasSet.add(vejnavn.replace("skt", "sct") );
450                  aliasSet.add(vejnavn.replace("sct", "skt") );                                            aliasSet.add(vejnavn.replace("sct", "skt") );
451                    
452                    
453                    //alternative måder at stave vej/gade/alle
454                    aliasSet.add(vejnavn.replace("vej", "ve") );
455                    aliasSet.add(vejnavn.replace("vej", "vj") );
456                    
457                    aliasSet.add(vejnavn.replace("alle", "all") );
458                    aliasSet.add(vejnavn.replace("allé", "all") );
459                    aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
460                    aliasSet.add(vejnavn.replace("allé", "allú") );
461                    
462                    aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
463                    
464                    
465                    // Opbyg æøå varianter over alle fundne aliaser
466                    
467                    @SuppressWarnings("unchecked")
468                    HashSet<String> variants = (HashSet<String>) aliasSet.clone();
469                    
470                    for (String vVejnavn : variants) {                                      
471                            // danske tegn 1
472                            aliasSet.add( vVejnavn.replace("æ", "ae") );
473                            aliasSet.add( vVejnavn.replace("ø", "oe") );
474                            aliasSet.add( vVejnavn.replace("å", "aa") );
475                            aliasSet.add( vVejnavn.replace("ae", "æ") );
476                            aliasSet.add( vVejnavn.replace("oe", "ø") );
477                            aliasSet.add( vVejnavn.replace("aa", "å") );
478                            
479                            //danske tegn 2
480                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );
481                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );
482                            aliasSet.add( vVejnavn.replace("ø", "ae").replace("å", "aa") );
483                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );
484                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );
485                            aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );
486                            
487                            //danske tegn 3
488                            aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );
489                            aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );
490                    }
491                                    
492                  return aliasSet;                  return aliasSet;
493          }          }
Legend:
Removed from v.2295  
changed lines
  Added in v.2383
  ViewVC Help
Powered by ViewVC 1.1.20