/[projects]/dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2337 by torben, Mon Feb 23 12:30:41 2015 UTC revision 2396 by torben, Fri Feb 27 09:54:05 2015 UTC
# Line 1  Line 1 
1  package dk.daoas.daoadresseservice;  package dk.daoas.daoadresseservice;
2    
3  import java.sql.SQLException;  import java.sql.SQLException;
4    import java.text.SimpleDateFormat;
5  import java.util.ArrayList;  import java.util.ArrayList;
6  import java.util.Collections;  import java.util.Collections;
7    import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
9  import java.util.HashSet;  import java.util.HashSet;
10  import java.util.List;  import java.util.List;
# Line 10  import java.util.Map; Line 12  import java.util.Map;
12  import java.util.Set;  import java.util.Set;
13  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
14    
15  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;  import org.apache.commons.lang3.StringUtils;
16    
17    import dk.daoas.daoadresseservice.admin.ServiceConfig;
18  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
19    import dk.daoas.daoadresseservice.beans.AliasBean;
20  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
21  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
22  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
# Line 28  public class AdressSearch { Line 33  public class AdressSearch {
33                    
34          private Map<String,Long> helperCache;          private Map<String,Long> helperCache;
35                    
36          private DataStatisticsBean stats = new DataStatisticsBean();          private DataStatisticsBean stats = new DataStatisticsBean();
37            
38            ServiceConfig config;
39            
40            public AdressSearch(ServiceConfig config) {
41                    this.config = config;
42            }
43                    
44                    
45          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
46                                    
47                    SearchResult result = new SearchResult();
48                    
49                  int postnr=0;                  int postnr=0;
50                  boolean google = false;  
                 boolean osm = false;  
51                  String helperSearchKey = "";                  String helperSearchKey = "";
52                                    
53                  try {                  try {
54                          postnr = Integer.parseInt(postnrStr);                          postnr = Integer.parseInt(postnrStr);
55                  } catch (Exception E) {                  } catch (Exception E) {
56                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
57                            return result;
58                  }                                }              
59                                    
60                  Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                                      Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                    
61                                    
62                  if (postnrVeje == null) {                  if (postnrVeje == null) {
63                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
64                            return result;
65                  }                  }
66                                    
67                                    
68                  SplitResult split = AddressUtils.splitAdresse(adresse);                  result.splitResult = AddressUtils.splitAdresse(adresse);
69                  String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                                                                            
70                                    
71                  if (split.husnr.length() == 0) {                  if (result.splitResult.husnr.length() == 0) {
72                          return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                                                result.status = Status.ERROR_MISSING_HOUSENUMBER;
73                            return result;
74                  }                  }
75                                    
76                    String vasketVejnavn = AddressUtils.vaskVejnavn( result.splitResult.vej );
77                    
78                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  Long gadeident =  postnrVeje.get(vasketVejnavn);
79                                    
80                                    
# Line 66  public class AdressSearch { Line 83  public class AdressSearch {
83                          gadeident = helperCache.get(helperSearchKey);                          gadeident = helperCache.get(helperSearchKey);
84                  }                  }
85                                    
86                    if (gadeident == null) {
87                            String best = getbestLevenshteinDistance(vasketVejnavn, postnrVeje);
88                            if (best != null) {
89                                    result.levenshtein = true;
90                                    gadeident =  postnrVeje.get(best);
91                            }
92                    }
93                    
94                                    
95                    // Brug OpenStreetMap før vi prøver google
96                    // For google har en request limit, det har OSM ikke!
97                  if ( gadeident == null) {                  if ( gadeident == null) {
98                          String googleVej = GeocodeHelper.googleHelper(postnr, split.vej );                          if (config.useOpenStreetMaps) {
99                          google = true;                                  result.osmVej = GeocodeHelper.openstreetmapHelper(config, postnr, result.splitResult.vej );
100                                                            result.osm = true;
                         if (googleVej != null) {  
                                 String googleVasket = AddressUtils.vaskVejnavn( googleVej );  
                                 gadeident =  postnrVeje.get(googleVasket);  
101                                                                    
102                                  if (gadeident != null) {                                  gadeident = helperWrapper(result.osmVej, postnrVeje, helperSearchKey);
                                         helperCache.put(helperSearchKey, gadeident);  
                                 }  
103                          }                          }
104                  }                  }
105                                    
106                  if ( gadeident == null) {                  if ( gadeident == null) {
107                          String osmVej = GeocodeHelper.openstreetmapHelper(postnr, split.vej );                          if (config.useGoogle) {
108                          osm = true;                                  result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitResult.vej );
109                                                            result.google = true;
                         if (osmVej != null) {  
                                 String osmVasket = AddressUtils.vaskVejnavn( osmVej );  
                                 gadeident =  postnrVeje.get(osmVasket);  
110                                                                    
111                                  if (gadeident != null) {                                  gadeident = helperWrapper(result.googleVej, postnrVeje, helperSearchKey);                              
                                         helperCache.put(helperSearchKey, gadeident);  
                                 }  
112                          }                          }
113                  }                  }
114                                    
115                  if (gadeident == null) {  
116                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);                  
117                    if (gadeident == null) {                        
118                            result.status = Status.ERROR_UNKNOWN_STREETNAME;
119                            return result;
120                  }                  }
121                                    
122                  Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle                  
123                    Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);
124                    if (gade == null) { //Denne søgning må ikke fejle
125                            result.status = Status.ERROR_INTERNAL;
126                            return result;                  
127                    }
128                                    
129                                    
130                  String husnrSearch = "" + split.husnr + split.litra;                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;
131                  Address addr = gade.get(husnrSearch);                  Address addr = gade.get(husnrSearch);
132    
133                  if (addr == null) {                  if (addr == null) {
134                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);                          result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
135                            return result;
136                  }                  }
137                                    
138                    result.address = addr;
139                    
140                    
141                    if ( StringUtils.equals(addr.distributor, "LUKKET") ) {                
142                            result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
143                            return result;
144                    }                              
145                    
146                  if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {                  if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
147                          return new SearchResult(Status.STATUS_NOT_COVERED);                          result.status = Status.STATUS_NOT_COVERED;
148                            return result;
149                  }                  }
150    
151                                    
152                  if (addr.distributor.equals("LUKKET")) {                  result.status = Status.STATUS_OK;
153                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?  
154                  }                                return result;
155            }
156            
157            private Long helperWrapper(String vej, Map<String,Long> postnrVeje, String helperSearchKey) {
158                    if (vej == null)
159                            return null;
160                    
161                    String vejVasket = AddressUtils.vaskVejnavn( vej );
162                    Long gadeident =  postnrVeje.get(vejVasket);
163                    
164                    if (gadeident != null) {
165                            helperCache.put(helperSearchKey, gadeident);
166                    }
167                    return gadeident;
168                                    
                 SearchResult res = new SearchResult(addr);  
                 res.google = google;  
                 res.osm = osm;  
                 return res;  
169          }          }
170                    
171    
172    
173            
174                    
175          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
176                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
# Line 150  public class AdressSearch { Line 198  public class AdressSearch {
198                                                    
199                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
200                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Long gadeident = postnrVeje.get(vasketVejnavn);
201                          if (gadeident == null) {                          if (gadeident == null) {                                
202                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
203                                                                    
204                                    gadeident = a.gadeid;
205                                    
206                                  Set<String> aliaser = findVejAliaser(a.vejnavn);                                  Set<String> aliaser = findVejAliaser(a.vejnavn);
207                                  for(String alias : aliaser) {                                  for(String alias : aliaser) {
208                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);
209                                          postnrVeje.put(vasketAlias, a.gadeid);                                            postnrVeje.put(vasketAlias, gadeident);
210                                  }                                  }                              
                                   
211                          }                          }
212                                                    
213                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident);
214                          if (gade == null) {                          if (gade == null) {
215                                  gade = new HashMap<String, Address>();                                  gade = new HashMap<String, Address>();
216                                  searchGadeidentAdresser.put(a.gadeid, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
217                          }                          }
218                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          String husnrSearch = "" + a.husnr + a.husnrbogstav;
219                          gade.put(husnrSearch, a);                                                gade.put(husnrSearch, a);                      
220                  }                  }
221                                    
                   
222                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
223                  long start2 = System.currentTimeMillis();                  long start2 = System.currentTimeMillis();
224                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );
225                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 alias tabel");
226                    
227                    int vaskCount = 0;
228                    List<AliasBean> aliasList = DatabaseLayer.getAliasList();
229                    for (AliasBean alias : aliasList) {
230                            Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
231                            
232                            if (postnrVeje == null) {
233                                    //Burde ikke kunne ske - men better safe than sorry
234                                    continue;
235                            }
236                            
237                            String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
238                            String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
239                            
240                            Long gadeident = postnrVeje.get(vasketVej);
241                            if (gadeident == null) {
242                                    //Kender ikke den oprindelige vej
243                                    continue;
244                            }
245                            
246                            Long aliasIdent = postnrVeje.get(vasketAlias);
247                            
248                            if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
249                                    postnrVeje.put(vasketAlias, gadeident);
250                                    vaskCount++;
251                            }
252                            
253                    }
254                    System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
255                    
256                    
257                    ////////////////////////////////////////////////////////////////////////////////////////
258                    long start3 = System.currentTimeMillis();
259                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
260                    System.out.println("Build -- stage 3 udvidet dækning");
261                                    
262                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
263                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
# Line 231  public class AdressSearch { Line 314  public class AdressSearch {
314                  idAddressMap = null;                  idAddressMap = null;
315                                    
316                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
317                  long start3 = System.currentTimeMillis();                  long start4 = System.currentTimeMillis();
318                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
319                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
320                                    
321                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
322                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 260  public class AdressSearch { Line 343  public class AdressSearch {
343                                    
344                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
345                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
346                  System.out.println("Build, stage3 elapsed: " + (stop-start3) );                  System.out.println("Build, stage3 elapsed: " + (stop-start4) );
347                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
348                                                                    
349                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 277  public class AdressSearch { Line 360  public class AdressSearch {
360                          default:                          default:
361                                  stats.ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
362                          }                          }
363                  }                  }              
364                    
365                    
366                    stats.elapsed = stop-start1;            
367                    stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
368                                    
369                  System.out.println("Build: direkteCount: " + stats.direkteCount);                  System.out.println("Build: direkteCount: " + stats.direkteCount);
370                  System.out.println("Build: extendedCount: " + stats.extendedCount);                  System.out.println("Build: extendedCount: " + stats.extendedCount);
# Line 301  public class AdressSearch { Line 388  public class AdressSearch {
388          }          }
389                    
390                    
391            private String getbestLevenshteinDistance(String vasketVejnavn, Map<String,Long> postnrVeje) {
392                    for(String vej : postnrVeje.keySet()) {
393                            if ( StringUtils.getLevenshteinDistance(vasketVejnavn, vej) == 1) {
394                                    System.out.println("Levenstein: " + vasketVejnavn + "->" + vej);
395                                    return vej;
396                            }
397                    }
398                    
399                    return null;
400            }
401            
402          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
403    
404                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
# Line 379  public class AdressSearch { Line 477  public class AdressSearch {
477                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );                  aliasSet.add(vejnavn.replace("dr.", "dronningens") );
478                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );                  aliasSet.add(vejnavn.replace("dr ", "dronningens") );
479                                    
480                    aliasSet.add(vejnavn.replace("dronning", "dr") );
481                    aliasSet.add(vejnavn.replace("dr.", "dronning") );
482                    aliasSet.add(vejnavn.replace("dr ", "dronning") );
483                    
484                    aliasSet.add(vejnavn.replace("kng", "kongen") );
485                    aliasSet.add(vejnavn.replace("kongen", "kng") );
486                    
487                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );                  aliasSet.add(vejnavn.replace("kvt", "kvarter") );
488                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );                  aliasSet.add(vejnavn.replace("kvarter", "kvt") );
489                                    
# Line 408  public class AdressSearch { Line 513  public class AdressSearch {
513                  aliasSet.add(vejnavn.replace("skt", "sankt") );                  aliasSet.add(vejnavn.replace("skt", "sankt") );
514                                    
515                  aliasSet.add(vejnavn.replace("skt", "sct") );                  aliasSet.add(vejnavn.replace("skt", "sct") );
516                  aliasSet.add(vejnavn.replace("sct", "skt") );                    aliasSet.add(vejnavn.replace("sct", "skt") );
517                    
518                    
519                    //alternative måder at stave vej/gade/alle
520                    aliasSet.add(vejnavn.replace("vej", "ve") );
521                    aliasSet.add(vejnavn.replace("vej", "vj") );
522                    aliasSet.add(vejnavn.replace("vej", "v") );
523                    
524                    aliasSet.add(vejnavn.replace("alle", "all") );
525                    aliasSet.add(vejnavn.replace("allé", "all") );
526                    aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
527                    aliasSet.add(vejnavn.replace("allé", "allú") );
528                    
529                    aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
530                    
531                                    
532                  // Opbyg æøå varianter over alle fundne aliaser                  // Opbyg æøå varianter over alle fundne aliaser
533                                    
Legend:
Removed from v.2337  
changed lines
  Added in v.2396
  ViewVC Help
Powered by ViewVC 1.1.20