/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2289 by torben, Sat Feb 14 08:43:45 2015 UTC revision 2350 by torben, Mon Feb 23 15:11:39 2015 UTC
# Line 1  Line 1 
1  package dk.daoas.daoadresseservice;  package dk.daoas.daoadresseservice;
2    
3  import java.sql.SQLException;  import java.sql.SQLException;
4    import java.text.SimpleDateFormat;
5    import java.util.ArrayList;
6    import java.util.Collections;
7    import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
9    import java.util.HashSet;
10  import java.util.List;  import java.util.List;
11  import java.util.Map;  import java.util.Map;
12    import java.util.Set;
13  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
14    
15  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;
16    import dk.daoas.daoadresseservice.admin.ServiceConfig;
17  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
18    import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
19  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
20  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
21  import dk.daoas.daoadresseservice.beans.SearchResult;  import dk.daoas.daoadresseservice.beans.SearchResult;
# Line 16  import dk.daoas.daoadresseservice.db.Dat Line 24  import dk.daoas.daoadresseservice.db.Dat
24    
25  public class AdressSearch {  public class AdressSearch {
26    
27          Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;      
28          Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Long,  Map<String,Address>> searchGadeidentAdresser;
29    
30          List<Address> alleAdresser;          private List<Address> alleAdresser;
31                    
32            private Map<String,Long> helperCache;
33                    
34          Map<Integer,HundredePctBean> hundredePct;          private DataStatisticsBean stats = new DataStatisticsBean();
35            
36            ServiceConfig config;
37            
38            public AdressSearch(ServiceConfig config) {
39                    this.config = config;
40            }
41                    
42                    
43          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
 //long start1 = System.currentTimeMillis();  
44                                    
45                  int postnr=0;                  int postnr=0;
46                    boolean google = false;
47                    boolean osm = false;
48                    String helperSearchKey = "";
49                                    
50                  try {                  try {
51                          postnr = Integer.parseInt(postnrStr);                          postnr = Integer.parseInt(postnrStr);
52                  } catch (Exception E) {                  } catch (Exception E) {
53                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);
54                  }                                }              
 //long start2 = System.currentTimeMillis();  
55                                    
56                  Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                                      Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                    
57                                    
# Line 43  public class AdressSearch { Line 59  public class AdressSearch {
59                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);
60                  }                  }
61                                    
 //long start3 = System.currentTimeMillis();  
62                                    
63                  SplitResult split = AddressUtils.splitAdresse(adresse);                  SplitResult split = AddressUtils.splitAdresse(adresse);
64                  String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                                            String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                          
# Line 51  public class AdressSearch { Line 66  public class AdressSearch {
66                  if (split.husnr.length() == 0) {                  if (split.husnr.length() == 0) {
67                          return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                                                return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                      
68                  }                  }
 //long start4 = System.currentTimeMillis();  
69                                    
70                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  Long gadeident =  postnrVeje.get(vasketVejnavn);
71                    
72                    
73                    if ( gadeident == null) {
74                            helperSearchKey = "" + postnr + "/" + vasketVejnavn;
75                            gadeident = helperCache.get(helperSearchKey);
76                    }
77                    
78                    
79                    if ( gadeident == null) {
80                            if (config.useGoogle) {
81                                    String googleVej = GeocodeHelper.googleHelper(config, postnr, split.vej );
82                                    google = true;
83                                    
84                                    if (googleVej != null) {
85                                            String googleVasket = AddressUtils.vaskVejnavn( googleVej );
86                                            gadeident =  postnrVeje.get(googleVasket);
87                                            
88                                            if (gadeident != null) {
89                                                    helperCache.put(helperSearchKey, gadeident);
90                                            }
91                                    }
92                            }
93                    }
94                    
95                    if ( gadeident == null) {
96                            if (config.useOpenStreetMaps) {
97                                    String osmVej = GeocodeHelper.openstreetmapHelper(postnr, split.vej );
98                                    osm = true;
99                                    
100                                    if (osmVej != null) {
101                                            String osmVasket = AddressUtils.vaskVejnavn( osmVej );
102                                            gadeident =  postnrVeje.get(osmVasket);
103                                            
104                                            if (gadeident != null) {
105                                                    helperCache.put(helperSearchKey, gadeident);
106                                            }
107                                    }
108                            }
109                    }
110                    
111                  if (gadeident == null) {                  if (gadeident == null) {
112                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);
113                  }                  }
 //long start5 = System.currentTimeMillis();  
114                                    
115                  Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle                  Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle
116                                    
 //long start6 = System.currentTimeMillis();  
117                                    
118                  String husnrSearch = "" + split.husnr + split.litra;                  String husnrSearch = "" + split.husnr + split.litra;
119                  Address addr = gade.get(husnrSearch);                  Address addr = gade.get(husnrSearch);
120  //long start7 = System.currentTimeMillis();  
121                  if (addr == null) {                  if (addr == null) {
122                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);
123                  }                  }
# Line 76  public class AdressSearch { Line 128  public class AdressSearch {
128                                    
129                  if (addr.distributor.equals("LUKKET")) {                  if (addr.distributor.equals("LUKKET")) {
130                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?
131                  }                  }              
                   
 /*  
 System.out.println("Search2: " + (start2-start1) );  
 System.out.println("Search3: " + (start3-start1) );  
 System.out.println("Search4: " + (start4-start1) );  
 System.out.println("Search5: " + (start5-start1) );  
 System.out.println("Search6: " + (start6-start1) );  
 System.out.println("Search7: " + (start7-start1) );  
 */  
   
                                   
132                                    
133                  return new SearchResult(addr);                  SearchResult res = new SearchResult(addr);
134                    res.google = google;
135                    res.osm = osm;
136                    return res;
137          }          }
138                    
139                    
140          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
141                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
142                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();
143                                                    helperCache = new ConcurrentHashMap<String,Long>();
144                    
145                    long start1 = System.currentTimeMillis();
146                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
147                                    
148                  alleAdresser = DatabaseLayer.getAllAdresses();                  alleAdresser = DatabaseLayer.getAllAdresses();
# Line 118  System.out.println("Search7: " + (start7 Line 164  System.out.println("Search7: " + (start7
164                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
165                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Long gadeident = postnrVeje.get(vasketVejnavn);
166                          if (gadeident == null) {                          if (gadeident == null) {
167                                  postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
168                                    
169                                    Set<String> aliaser = findVejAliaser(a.vejnavn);
170                                    for(String alias : aliaser) {
171                                            String vasketAlias = AddressUtils.vaskVejnavn(alias);
172                                            postnrVeje.put(vasketAlias, a.gadeid);  
173                                    }
174                                    
175                          }                          }
176                                                    
177                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);
# Line 132  System.out.println("Search7: " + (start7 Line 185  System.out.println("Search7: " + (start7
185                                    
186                                    
187                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
188                    long start2 = System.currentTimeMillis();
189                    System.out.println("Build, stage1 elapsed: " + (start2-start1) );
190                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 udvidet dækning");
191                                    
192                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
# Line 189  System.out.println("Search7: " + (start7 Line 244  System.out.println("Search7: " + (start7
244                  idAddressMap = null;                  idAddressMap = null;
245                                    
246                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
247                    long start3 = System.currentTimeMillis();
248                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
249                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 3 - 100pct");
250                                    
251                  hundredePct = DatabaseLayer.get100PctList();                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
252                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
253                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                                                  if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                        
254                                  continue;                                  continue;
# Line 215  System.out.println("Search7: " + (start7 Line 272  System.out.println("Search7: " + (start7
272                  }                  }
273                                    
274                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
275                    long stop = System.currentTimeMillis();
276                    System.out.println("Build, stage3 elapsed: " + (stop-start3) );
277                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
278                                                    
                 int direkteCount = 0;  
                 int extendedCount = 0;  
                 int hundredePctCount = 0;  
                 int ikkeDaekketCount = 0;  
                   
279                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
280                          switch (addr.daekningsType) {                          switch (addr.daekningsType) {
281                          case DAEKNING_DIREKTE:                          case DAEKNING_DIREKTE:
282                                  direkteCount++;                                  stats.direkteCount++;
283                                  break;                                  break;
284                          case DAEKNING_UDVIDET:                          case DAEKNING_UDVIDET:
285                                  extendedCount++;                                  stats.extendedCount++;
286                                  break;                                  break;
287                          case DAEKNING_100PCT:                          case DAEKNING_100PCT:
288                                  hundredePctCount++;                                  stats.hundredePctCount++;
289                                  break;                                  break;
290                          default:                          default:
291                                  ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
292                          }                          }
293                  }                  }              
294                    
295                                    
296                  System.out.println("Build: direkteCount: " + direkteCount);                  stats.elapsed = stop-start1;            
297                  System.out.println("Build: extendedCount: " + extendedCount);                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
                 System.out.println("Build: hundredePctCount: " + hundredePctCount);  
                 System.out.println("Build: ikkeDaekketCount: " + ikkeDaekketCount);  
298                                    
299                    System.out.println("Build: direkteCount: " + stats.direkteCount);
300                    System.out.println("Build: extendedCount: " + stats.extendedCount);
301                    System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
302                    System.out.println("Build: ikkeDaekketCount: " + stats.ikkeDaekketCount);
303                    
304                    System.out.println("Build: Total Elapsed: " + (stop-start1) );
305                  System.out.println("Build Completed");                  System.out.println("Build Completed");
306                                    
307          }          }
308                    
309            public DataStatisticsBean getStatistics() {
310                    return stats;
311            }
312            
313            public void clear() {
314                    searchPostnrVejnavnGadeid.clear();
315                    searchGadeidentAdresser.clear();
316                    alleAdresser.clear();
317                    helperCache.clear();
318            }
319            
320                    
321          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
322    
# Line 287  System.out.println("Search7: " + (start7 Line 357  System.out.println("Search7: " + (start7
357                          break;                          break;
358                  }                                }              
359                  return null;                  return null;
360          }                }
361            
362            public List<Address> getNonCoveredAddresses() {
363                    List<Address> result = new ArrayList<Address>(60000);
364                    for (Address a : alleAdresser) {
365                            if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
366                                    result.add(a);
367                            }
368                    }
369                    Collections.sort(result );
370                    return result;
371            }
372                    
373          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
374          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
# Line 300  System.out.println("Search7: " + (start7 Line 381  System.out.println("Search7: " + (start7
381                  return AddressUtils.injectIntoBk(targetAddress.koreliste, inject);                  return AddressUtils.injectIntoBk(targetAddress.koreliste, inject);
382          }          }
383                    
384            private Set<String> findVejAliaser(String vejnavn) {
385                    vejnavn = vejnavn.toLowerCase();
386                    HashSet<String> aliasSet = new HashSet<String>();
387                    aliasSet.add(vejnavn);
388                    
389                    aliasSet.add(vejnavn.replace("u", "ü") );
390                    aliasSet.add(vejnavn.replace("ü", "u") );
391                    
392                    aliasSet.add(vejnavn.replace("alle", "allé") );
393                    aliasSet.add(vejnavn.replace("allé", "alle") );                
394                    
395                    aliasSet.add(vejnavn.replace("dronningens", "dr") );
396                    aliasSet.add(vejnavn.replace("dr.", "dronningens") );
397                    aliasSet.add(vejnavn.replace("dr ", "dronningens") );
398                    
399                    aliasSet.add(vejnavn.replace("kvt", "kvarter") );
400                    aliasSet.add(vejnavn.replace("kvarter", "kvt") );
401                    
402                    aliasSet.add(vejnavn.replace("gl", "gammel") );
403                    aliasSet.add(vejnavn.replace("gammel", "gl") );
404                    
405                    aliasSet.add(vejnavn.replace("lille", "ll") );
406                    aliasSet.add(vejnavn.replace("ll ", "lille") );
407                    aliasSet.add(vejnavn.replace("ll.", "lille") );
408                    
409                    aliasSet.add(vejnavn.replace("store", "st") );
410                    aliasSet.add(vejnavn.replace("st ", "store") );
411                    aliasSet.add(vejnavn.replace("st.", "store") );
412                    
413                    aliasSet.add(vejnavn.replace("søndre", "sdr") );
414                    aliasSet.add(vejnavn.replace("sdr", "søndre") );
415    
416                    
417                    aliasSet.add(vejnavn.replace("nørre", "nr") );
418                    aliasSet.add(vejnavn.replace("nr", "nørre") );
419                    
420                    aliasSet.add(vejnavn.replace("nordre", "ndr") );
421                    aliasSet.add(vejnavn.replace("ndr", "nordre") );
422                                    
423                    aliasSet.add(vejnavn.replace("sankt", "skt") );
424                    aliasSet.add(vejnavn.replace("sankt", "sct") );
425                    aliasSet.add(vejnavn.replace("skt", "sankt") );
426                    
427                    aliasSet.add(vejnavn.replace("skt", "sct") );
428                    aliasSet.add(vejnavn.replace("sct", "skt") );  
429                    
430                    // Opbyg æøå varianter over alle fundne aliaser
431                    
432                    @SuppressWarnings("unchecked")
433                    HashSet<String> variants = (HashSet<String>) aliasSet.clone();
434                    
435                    for (String vVejnavn : variants) {                                      
436                            // danske tegn 1
437                            aliasSet.add( vVejnavn.replace("æ", "ae") );
438                            aliasSet.add( vVejnavn.replace("ø", "oe") );
439                            aliasSet.add( vVejnavn.replace("å", "aa") );
440                            aliasSet.add( vVejnavn.replace("ae", "æ") );
441                            aliasSet.add( vVejnavn.replace("oe", "ø") );
442                            aliasSet.add( vVejnavn.replace("aa", "å") );
443                            
444                            //danske tegn 2
445                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );
446                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );
447                            aliasSet.add( vVejnavn.replace("ø", "ae").replace("å", "aa") );
448                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );
449                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );
450                            aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );
451                            
452                            //danske tegn 3
453                            aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );
454                            aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );
455                    }
456                    
457                    return aliasSet;
458            }
459            
460                    
461  }  }
Legend:
Removed from v.2289  
changed lines
  Added in v.2350
  ViewVC Help
Powered by ViewVC 1.1.20