/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java revision 2381 by torben, Thu Feb 26 10:27:54 2015 UTC dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AddressSearch.java revision 2410 by torben, Sat Feb 28 16:16:17 2015 UTC
# Line 16  import org.apache.commons.lang3.StringUt Line 16  import org.apache.commons.lang3.StringUt
16    
17  import dk.daoas.daoadresseservice.admin.ServiceConfig;  import dk.daoas.daoadresseservice.admin.ServiceConfig;
18  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
19    import dk.daoas.daoadresseservice.beans.AliasBean;
20  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
21  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
22  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
# Line 23  import dk.daoas.daoadresseservice.beans. Line 24  import dk.daoas.daoadresseservice.beans.
24  import dk.daoas.daoadresseservice.beans.SearchResult.Status;  import dk.daoas.daoadresseservice.beans.SearchResult.Status;
25  import dk.daoas.daoadresseservice.db.DatabaseLayer;  import dk.daoas.daoadresseservice.db.DatabaseLayer;
26    
27  public class AdressSearch {  public class AddressSearch {
28    
29          private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;      
30          private Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Long,  Map<String,Address>> searchGadeidentAdresser;
# Line 36  public class AdressSearch { Line 37  public class AdressSearch {
37                    
38          ServiceConfig config;          ServiceConfig config;
39                    
40          public AdressSearch(ServiceConfig config) {          StreetnameHelper googleHelper;
41            StreetnameHelper osmHelper;
42            
43            public AddressSearch(ServiceConfig config) {
44                  this.config = config;                  this.config = config;
45                    
46                    googleHelper = new GoogleStreetnameHelper( config );
47                    osmHelper = new OSMStreetnameHelper( config );
48          }          }
49                    
50                    
# Line 82  public class AdressSearch { Line 89  public class AdressSearch {
89                          gadeident = helperCache.get(helperSearchKey);                          gadeident = helperCache.get(helperSearchKey);
90                  }                  }
91                                    
92                    if (gadeident == null) {
93                            String best = getbestLevenshteinDistance(vasketVejnavn, postnrVeje);
94                            if (best != null) {
95                                    result.levenshtein = true;
96                                    gadeident =  postnrVeje.get(best);
97                            }
98                    }
99                    
100                                    
101                    // Brug OpenStreetMap før vi prøver google
102                    // For google har en request limit, det har OSM ikke!
103                  if ( gadeident == null) {                  if ( gadeident == null) {
104                          if (config.useGoogle) {                          String vej = osmHelper.proposeStreetName(result, postnr, result.splitResult.vej);              
105                                  result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitResult.vej );                          gadeident = helperWrapper(vej, postnrVeje, helperSearchKey);
                                 result.google = true;  
                                   
                                 if (result.googleVej != null) {  
                                         String googleVasket = AddressUtils.vaskVejnavn( result.googleVej );  
                                         gadeident =  postnrVeje.get(googleVasket);  
                                           
                                         if (gadeident != null) {  
                                                 helperCache.put(helperSearchKey, gadeident);  
                                         }  
                                 }  
                         }  
106                  }                  }
107                                    
108                  if ( gadeident == null) {                  if ( gadeident == null) {
109                          if (config.useOpenStreetMaps) {                          String vej = googleHelper.proposeStreetName(result, postnr, result.splitResult.vej);            
110                                  result.osmVej = GeocodeHelper.openstreetmapHelper(config, postnr, result.splitResult.vej );                          gadeident = helperWrapper(vej, postnrVeje, helperSearchKey);
                                 result.osm = true;  
                                   
                                 if (result.osmVej != null) {  
                                         String osmVasket = AddressUtils.vaskVejnavn( result.osmVej );  
                                         gadeident =  postnrVeje.get(osmVasket);  
                                           
                                         if (gadeident != null) {  
                                                 helperCache.put(helperSearchKey, gadeident);  
                                         }  
                                 }  
                         }  
111                  }                  }
112                                    
113    
114                    
115                  if (gadeident == null) {                                          if (gadeident == null) {                        
116                          result.status = Status.ERROR_UNKNOWN_STREETNAME;                          result.status = Status.ERROR_UNKNOWN_STREETNAME;
117                          return result;                          return result;
118                  }                  }
119                                    
120                    result.gadeident = gadeident;
121                    
122                    
123                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);
124                  if (gade == null) { //Denne søgning må ikke fejle                  if (gade == null) { //Denne søgning må ikke fejle
125                          result.status = Status.ERROR_INTERNAL;                          result.status = Status.ERROR_INTERNAL;
# Line 127  public class AdressSearch { Line 127  public class AdressSearch {
127                  }                  }
128                                    
129                                    
130                    //Kunne evt klares med Iterables.get fra Guava/Collections
131                    Address firstAddress = gade.values().iterator().next();
132                    result.vej = firstAddress.vejnavn;
133                    
134                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;
135                  Address addr = gade.get(husnrSearch);                  Address addr = gade.get(husnrSearch);
136    
# Line 154  public class AdressSearch { Line 158  public class AdressSearch {
158                  return result;                  return result;
159          }          }
160                    
161            private Long helperWrapper(String vej, Map<String,Long> postnrVeje, String helperSearchKey) {
162                    if (vej == null)
163                            return null;
164                    
165                    String vejVasket = AddressUtils.vaskVejnavn( vej );
166                    Long gadeident =  postnrVeje.get(vejVasket);
167                    
168                    if (gadeident != null) {
169                            helperCache.put(helperSearchKey, gadeident);
170                    }
171                    return gadeident;
172                    
173            }
174            
175    
176    
177            
178                    
179          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
180                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
# Line 181  public class AdressSearch { Line 202  public class AdressSearch {
202                                                    
203                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
204                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Long gadeident = postnrVeje.get(vasketVejnavn);
205                          if (gadeident == null) {                          if (gadeident == null) {                                
206                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
207                                                                    
208                                    gadeident = a.gadeid;
209                                    
210                                  Set<String> aliaser = findVejAliaser(a.vejnavn);                                  Set<String> aliaser = findVejAliaser(a.vejnavn);
211                                  for(String alias : aliaser) {                                  for(String alias : aliaser) {
212                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);
213                                          postnrVeje.put(vasketAlias, a.gadeid);                                            postnrVeje.put(vasketAlias, gadeident);
214                                  }                                  }                              
                                   
215                          }                          }
216                                                    
217                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident);
218                          if (gade == null) {                          if (gade == null) {
219                                  gade = new HashMap<String, Address>();                                  gade = new HashMap<String, Address>();
220                                  searchGadeidentAdresser.put(a.gadeid, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
221                          }                          }
222                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          String husnrSearch = "" + a.husnr + a.husnrbogstav;
223                          gade.put(husnrSearch, a);                                                gade.put(husnrSearch, a);                      
224                  }                  }
225                                    
                   
226                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
227                  long start2 = System.currentTimeMillis();                  long start2 = System.currentTimeMillis();
228                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );
229                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 alias tabel");
230                    
231                    int vaskCount = 0;
232                    List<AliasBean> aliasList = DatabaseLayer.getAliasList();
233                    for (AliasBean alias : aliasList) {
234                            Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
235                            
236                            if (postnrVeje == null) {
237                                    //Burde ikke kunne ske - men better safe than sorry
238                                    continue;
239                            }
240                            
241                            String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
242                            String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
243                            
244                            Long gadeident = postnrVeje.get(vasketVej);
245                            if (gadeident == null) {
246                                    //Kender ikke den oprindelige vej
247                                    continue;
248                            }
249                            
250                            Long aliasIdent = postnrVeje.get(vasketAlias);
251                            
252                            if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
253                                    postnrVeje.put(vasketAlias, gadeident);
254                                    vaskCount++;
255                            }
256                            
257                    }
258                    System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
259                    
260                    
261                    ////////////////////////////////////////////////////////////////////////////////////////
262                    long start3 = System.currentTimeMillis();
263                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
264                    System.out.println("Build -- stage 3 udvidet dækning");
265                                    
266                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
267                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
# Line 262  public class AdressSearch { Line 318  public class AdressSearch {
318                  idAddressMap = null;                  idAddressMap = null;
319                                    
320                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
321                  long start3 = System.currentTimeMillis();                  long start4 = System.currentTimeMillis();
322                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
323                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
324                                    
325                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
326                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 291  public class AdressSearch { Line 347  public class AdressSearch {
347                                    
348                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
349                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
350                  System.out.println("Build, stage3 elapsed: " + (stop-start3) );                  System.out.println("Build, stage3 elapsed: " + (stop-start4) );
351                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
352                                                                    
353                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 336  public class AdressSearch { Line 392  public class AdressSearch {
392          }          }
393                    
394                    
395            private String getbestLevenshteinDistance(String vasketVejnavn, Map<String,Long> postnrVeje) {
396                    for(String vej : postnrVeje.keySet()) {
397                            if ( StringUtils.getLevenshteinDistance(vasketVejnavn, vej) == 1) {
398                                    System.out.println("Levenstein: " + vasketVejnavn + "->" + vej);
399                                    return vej;
400                            }
401                    }
402                    
403                    return null;
404            }
405            
406          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
407    
408                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
# Line 414  public class AdressSearch { Line 481  public class AdressSearch {
481                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );
482                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );
483                                    
484                    aliasSet.add(vejnavn.replace("dronning", "dr") );
485                    aliasSet.add(vejnavn.replace("dr.", "dronning") );
486                    aliasSet.add(vejnavn.replace("dr ", "dronning") );
487                    
488                    aliasSet.add(vejnavn.replace("kng", "kongen") );
489                    aliasSet.add(vejnavn.replace("kongen", "kng") );
490                    
491                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );
492                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );
493                                    
# Line 446  public class AdressSearch { Line 520  public class AdressSearch {
520                  aliasSet.add(vejnavn.replace("sct", "skt") );                  aliasSet.add(vejnavn.replace("sct", "skt") );
521                                    
522                                    
523                    // fornavn forkortelser
524                    aliasSet.add(vejnavn.replace("john", "j") );
525                    aliasSet.add(vejnavn.replace("thomas", "th") );
526                    aliasSet.add(vejnavn.replace("thorvald", "th") );
527    
528                    
529                    // Romertal
530                    aliasSet.add(vejnavn.replace("1", "i") );
531                    aliasSet.add(vejnavn.replace("i", "1") );
532                    
533                    aliasSet.add(vejnavn.replace("2", "ii") );
534                    aliasSet.add(vejnavn.replace("ii", "2") );
535                    
536                    aliasSet.add(vejnavn.replace("3", "iii") );
537                    aliasSet.add(vejnavn.replace("iii", "3") );
538                    
539                    aliasSet.add(vejnavn.replace("4", "iv") );
540                    aliasSet.add(vejnavn.replace("iv", "4") );
541                    
542                    aliasSet.add(vejnavn.replace("5", "v") );
543                    aliasSet.add(vejnavn.replace("v", "5") );
544                    
545                    aliasSet.add(vejnavn.replace("6", "vi") );
546                    aliasSet.add(vejnavn.replace("vi", "6") );
547                    
548                    aliasSet.add(vejnavn.replace("7", "vii") );
549                    aliasSet.add(vejnavn.replace("vii", "7") );
550                    
551                    aliasSet.add(vejnavn.replace("8", "viii") );
552                    aliasSet.add(vejnavn.replace("viii", "8") );
553                    
554                    aliasSet.add(vejnavn.replace("9", "ix") );
555                    aliasSet.add(vejnavn.replace("ix", "9") );
556                    
557                    aliasSet.add(vejnavn.replace("10", "x") );
558                    aliasSet.add(vejnavn.replace("x", "10") );              
559    
560                    
561                  //alternative måder at stave vej/gade/alle                  //alternative måder at stave vej/gade/alle
562                  aliasSet.add(vejnavn.replace("vej", "ve") );                  aliasSet.add(vejnavn.replace("vej", "ve") );
563                  aliasSet.add(vejnavn.replace("vej", "vj") );                  aliasSet.add(vejnavn.replace("vej", "vj") );
564                    aliasSet.add(vejnavn.replace("vej", "v") );
565                    aliasSet.add(vejnavn.replace("vej", "vejen") );
566                    aliasSet.add(vejnavn.replace("vejen", "vej") );
567                                    
568                  aliasSet.add(vejnavn.replace("alle", "all") );                  aliasSet.add(vejnavn.replace("alle", "all") );
569                  aliasSet.add(vejnavn.replace("allé", "all") );                  aliasSet.add(vejnavn.replace("allé", "all") );
570                    aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
571                    aliasSet.add(vejnavn.replace("allé", "allú") );
572                    
573                    aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
574                                    
575                  aliasSet.add(vejnavn.replace("gade", "gaed") );                  aliasSet.add(vejnavn.replace("plads", "pl") );
576                    aliasSet.add(vejnavn.replace("vænget", "vænge") );
577                                    
578                                    
579                  // Opbyg æøå varianter over alle fundne aliaser                  // Opbyg æøå varianter over alle fundne aliaser
Legend:
Removed from v.2381  
changed lines
  Added in v.2410
  ViewVC Help
Powered by ViewVC 1.1.20