/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2362 by torben, Tue Feb 24 11:29:57 2015 UTC revision 2403 by torben, Fri Feb 27 11:40:08 2015 UTC
# Line 12  import java.util.Map; Line 12  import java.util.Map;
12  import java.util.Set;  import java.util.Set;
13  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
14    
15    import org.apache.commons.lang3.StringUtils;
16    
17  import dk.daoas.daoadresseservice.admin.ServiceConfig;  import dk.daoas.daoadresseservice.admin.ServiceConfig;
18  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
19    import dk.daoas.daoadresseservice.beans.AliasBean;
20  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
21  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
22  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
# Line 62  public class AdressSearch { Line 65  public class AdressSearch {
65                  }                  }
66                                    
67                                    
68                  result.splitReult = AddressUtils.splitAdresse(adresse);                  result.splitResult = AddressUtils.splitAdresse(adresse);
69                                                                                                    
70                                    
71                  if (result.splitReult.husnr.length() == 0) {                  if (result.splitResult.husnr.length() == 0) {
72                          result.status = Status.ERROR_MISSING_HOUSENUMBER;                          result.status = Status.ERROR_MISSING_HOUSENUMBER;
73                          return result;                          return result;
74                  }                  }
75                                    
76                  String vasketVejnavn = AddressUtils.vaskVejnavn( result.splitReult.vej );                  String vasketVejnavn = AddressUtils.vaskVejnavn( result.splitResult.vej );
77                                    
78                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  Long gadeident =  postnrVeje.get(vasketVejnavn);
79                                    
# Line 80  public class AdressSearch { Line 83  public class AdressSearch {
83                          gadeident = helperCache.get(helperSearchKey);                          gadeident = helperCache.get(helperSearchKey);
84                  }                  }
85                                    
86                    if (gadeident == null) {
87                            String best = getbestLevenshteinDistance(vasketVejnavn, postnrVeje);
88                            if (best != null) {
89                                    result.levenshtein = true;
90                                    gadeident =  postnrVeje.get(best);
91                            }
92                    }
93                                    
94                    
95                    // Brug OpenStreetMap før vi prøver google
96                    // For google har en request limit, det har OSM ikke!
97                  if ( gadeident == null) {                  if ( gadeident == null) {
98                          if (config.useGoogle) {                          if (config.useOpenStreetMaps) {
99                                  result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitReult.vej );                                  result.osmVej = GeocodeHelper.openstreetmapHelper(config, postnr, result.splitResult.vej );
100                                  result.google = true;                                  result.osm = true;
101                                                                    
102                                  if (result.googleVej != null) {                                  gadeident = helperWrapper(result.osmVej, postnrVeje, helperSearchKey);
                                         String googleVasket = AddressUtils.vaskVejnavn( result.googleVej );  
                                         gadeident =  postnrVeje.get(googleVasket);  
                                           
                                         if (gadeident != null) {  
                                                 helperCache.put(helperSearchKey, gadeident);  
                                         }  
                                 }  
103                          }                          }
104                  }                  }
105                                    
106                  if ( gadeident == null) {                  if ( gadeident == null) {
107                          if (config.useOpenStreetMaps) {                          if (config.useGoogle) {
108                                  result.osmVej = GeocodeHelper.openstreetmapHelper(postnr, result.splitReult.vej );                                  result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitResult.vej );
109                                  result.osm = true;                                  result.google = true;
110                                                                    
111                                  if (result.osmVej != null) {                                  gadeident = helperWrapper(result.googleVej, postnrVeje, helperSearchKey);                              
                                         String osmVasket = AddressUtils.vaskVejnavn( result.osmVej );  
                                         gadeident =  postnrVeje.get(osmVasket);  
                                           
                                         if (gadeident != null) {  
                                                 helperCache.put(helperSearchKey, gadeident);  
                                         }  
                                 }  
112                          }                          }
113                  }                  }
114                                    
115    
116                    
117                  if (gadeident == null) {                                          if (gadeident == null) {                        
118                          result.status = Status.ERROR_UNKNOWN_STREETNAME;                          result.status = Status.ERROR_UNKNOWN_STREETNAME;
119                          return result;                          return result;
120                  }                  }
121                                    
122                    result.gadeident = gadeident;
123                    
124                    
125                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);
126                  if (gade == null) { //Denne søgning må ikke fejle                  if (gade == null) { //Denne søgning må ikke fejle
127                          result.status = Status.ERROR_INTERNAL;                          result.status = Status.ERROR_INTERNAL;
# Line 125  public class AdressSearch { Line 129  public class AdressSearch {
129                  }                  }
130                                    
131                                    
132                  String husnrSearch = "" + result.splitReult.husnr + result.splitReult.litra;                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;
133                  Address addr = gade.get(husnrSearch);                  Address addr = gade.get(husnrSearch);
134    
135                  if (addr == null) {                  if (addr == null) {
# Line 135  public class AdressSearch { Line 139  public class AdressSearch {
139                                    
140                  result.address = addr;                  result.address = addr;
141                                    
142                  if (addr.distributor.equals("LUKKET")) {                                          
143                    if ( StringUtils.equals(addr.distributor, "LUKKET") ) {                
144                          result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?                          result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
145                          return result;                          return result;
146                  }                                                }                              
# Line 151  public class AdressSearch { Line 156  public class AdressSearch {
156                  return result;                  return result;
157          }          }
158                    
159            private Long helperWrapper(String vej, Map<String,Long> postnrVeje, String helperSearchKey) {
160                    if (vej == null)
161                            return null;
162                    
163                    String vejVasket = AddressUtils.vaskVejnavn( vej );
164                    Long gadeident =  postnrVeje.get(vejVasket);
165                    
166                    if (gadeident != null) {
167                            helperCache.put(helperSearchKey, gadeident);
168                    }
169                    return gadeident;
170                    
171            }
172            
173    
174    
175            
176                    
177          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
178                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
# Line 178  public class AdressSearch { Line 200  public class AdressSearch {
200                                                    
201                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
202                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Long gadeident = postnrVeje.get(vasketVejnavn);
203                          if (gadeident == null) {                          if (gadeident == null) {                                
204                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
205                                                                    
206                                    gadeident = a.gadeid;
207                                    
208                                  Set<String> aliaser = findVejAliaser(a.vejnavn);                                  Set<String> aliaser = findVejAliaser(a.vejnavn);
209                                  for(String alias : aliaser) {                                  for(String alias : aliaser) {
210                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);
211                                          postnrVeje.put(vasketAlias, a.gadeid);                                            postnrVeje.put(vasketAlias, gadeident);
212                                  }                                  }                              
                                   
213                          }                          }
214                                                    
215                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident);
216                          if (gade == null) {                          if (gade == null) {
217                                  gade = new HashMap<String, Address>();                                  gade = new HashMap<String, Address>();
218                                  searchGadeidentAdresser.put(a.gadeid, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
219                          }                          }
220                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          String husnrSearch = "" + a.husnr + a.husnrbogstav;
221                          gade.put(husnrSearch, a);                                                gade.put(husnrSearch, a);                      
222                  }                  }
223                                    
                   
224                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
225                  long start2 = System.currentTimeMillis();                  long start2 = System.currentTimeMillis();
226                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );
227                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 alias tabel");
228                    
229                    int vaskCount = 0;
230                    List<AliasBean> aliasList = DatabaseLayer.getAliasList();
231                    for (AliasBean alias : aliasList) {
232                            Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
233                            
234                            if (postnrVeje == null) {
235                                    //Burde ikke kunne ske - men better safe than sorry
236                                    continue;
237                            }
238                            
239                            String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
240                            String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
241                            
242                            Long gadeident = postnrVeje.get(vasketVej);
243                            if (gadeident == null) {
244                                    //Kender ikke den oprindelige vej
245                                    continue;
246                            }
247                            
248                            Long aliasIdent = postnrVeje.get(vasketAlias);
249                            
250                            if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
251                                    postnrVeje.put(vasketAlias, gadeident);
252                                    vaskCount++;
253                            }
254                            
255                    }
256                    System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
257                    
258                    
259                    ////////////////////////////////////////////////////////////////////////////////////////
260                    long start3 = System.currentTimeMillis();
261                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
262                    System.out.println("Build -- stage 3 udvidet dækning");
263                                    
264                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
265                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
# Line 259  public class AdressSearch { Line 316  public class AdressSearch {
316                  idAddressMap = null;                  idAddressMap = null;
317                                    
318                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
319                  long start3 = System.currentTimeMillis();                  long start4 = System.currentTimeMillis();
320                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
321                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
322                                    
323                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
324                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 288  public class AdressSearch { Line 345  public class AdressSearch {
345                                    
346                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
347                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
348                  System.out.println("Build, stage3 elapsed: " + (stop-start3) );                  System.out.println("Build, stage3 elapsed: " + (stop-start4) );
349                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
350                                                                    
351                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 333  public class AdressSearch { Line 390  public class AdressSearch {
390          }          }
391                    
392                    
393            private String getbestLevenshteinDistance(String vasketVejnavn, Map<String,Long> postnrVeje) {
394                    for(String vej : postnrVeje.keySet()) {
395                            if ( StringUtils.getLevenshteinDistance(vasketVejnavn, vej) == 1) {
396                                    System.out.println("Levenstein: " + vasketVejnavn + "->" + vej);
397                                    return vej;
398                            }
399                    }
400                    
401                    return null;
402            }
403            
404          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
405    
406                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
# Line 411  public class AdressSearch { Line 479  public class AdressSearch {
479                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );
480                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );
481                                    
482                    aliasSet.add(vejnavn.replace("dronning", "dr") );
483                    aliasSet.add(vejnavn.replace("dr.", "dronning") );
484                    aliasSet.add(vejnavn.replace("dr ", "dronning") );
485                    
486                    aliasSet.add(vejnavn.replace("kng", "kongen") );
487                    aliasSet.add(vejnavn.replace("kongen", "kng") );
488                    
489                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );
490                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );
491                                    
# Line 442  public class AdressSearch { Line 517  public class AdressSearch {
517                  aliasSet.add(vejnavn.replace("skt", "sct") );                  aliasSet.add(vejnavn.replace("skt", "sct") );
518                  aliasSet.add(vejnavn.replace("sct", "skt") );                  aliasSet.add(vejnavn.replace("sct", "skt") );
519                                    
520                    
521                    aliasSet.add(vejnavn.replace("john", "j") ); //john f kennedy -> j f kennedy
522                    
523                    
524                    //alternative måder at stave vej/gade/alle
525                  aliasSet.add(vejnavn.replace("vej", "ve") );                  aliasSet.add(vejnavn.replace("vej", "ve") );
526                  aliasSet.add(vejnavn.replace("vej", "vj") );                  aliasSet.add(vejnavn.replace("vej", "vj") );
527                    aliasSet.add(vejnavn.replace("vej", "v") );
528                    aliasSet.add(vejnavn.replace("vej", "vejen") );
529                    aliasSet.add(vejnavn.replace("vejen", "vej") );
530                                    
531                  aliasSet.add(vejnavn.replace("alle", "all") );                  aliasSet.add(vejnavn.replace("alle", "all") );
532                  aliasSet.add(vejnavn.replace("allé", "all") );                  aliasSet.add(vejnavn.replace("allé", "all") );
533                    aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
534                    aliasSet.add(vejnavn.replace("allé", "allú") );
535                    
536                    aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
537                    
538                    aliasSet.add(vejnavn.replace("plads", "pl") );
539                    aliasSet.add(vejnavn.replace("vænget", "vænge") );
540                    
541                                    
542                  // Opbyg æøå varianter over alle fundne aliaser                  // Opbyg æøå varianter over alle fundne aliaser
543                                    
Legend:
Removed from v.2362  
changed lines
  Added in v.2403
  ViewVC Help
Powered by ViewVC 1.1.20