/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2560 by torben, Sun May 24 08:34:24 2015 UTC revision 2785 by torben, Thu Nov 26 14:25:41 2015 UTC
# Line 30  import dk.daoas.daoadresseservice.db.Dat Line 30  import dk.daoas.daoadresseservice.db.Dat
30  import dk.daoas.daoadresseservice.util.DaoUtils;  import dk.daoas.daoadresseservice.util.DaoUtils;
31  import dk.daoas.daoadresseservice.util.DeduplicateHelper;  import dk.daoas.daoadresseservice.util.DeduplicateHelper;
32  import dk.daoas.daoadresseservice.util.NaturalOrderComparator;  import dk.daoas.daoadresseservice.util.NaturalOrderComparator;
33    import dk.daoas.daoadresseservice.util.NearestShortTreeMap;
34    
35  public class AddressSearch {  public class AddressSearch {
36    
37          private Map<Short, Map<String,Integer>> searchPostnrVejnavnGadeid;                private Map<Short, Map<String,Integer>> searchPostnrVejnavnGadeid;      
38          private Map<Integer,  Map<String,Address>> searchGadeidentAdresser;          private Map<Integer,  Map<Short, Map<String,Address>>> searchGadeidentAdresser; // Gadeident -> husnrumre -> litra
39            
40    
41          private List<Address> alleAdresser;          private List<Address> alleAdresser;
42                    
# Line 42  public class AddressSearch { Line 44  public class AddressSearch {
44                    
45          private DataStatisticsBean stats = new DataStatisticsBean();          private DataStatisticsBean stats = new DataStatisticsBean();
46                    
47          ServiceConfig config;          private DatabaseLayer db;
48            private ServiceConfig config;
49            
50                    
51          StreetnameHelper levenshteinHelper;          StreetnameHelper levenshteinHelper;
52            StreetnameHelper metaphoneHelper;
53          StreetnameHelper googleHelper;          StreetnameHelper googleHelper;
54          StreetnameHelper osmHelper;          StreetnameHelper osmHelper;
55                    
56                    
57          public AddressSearch(ServiceConfig config) {          public AddressSearch(DatabaseLayer db, ServiceConfig config) {
58                    
59                    this.db = db;
60                  this.config = config;                  this.config = config;
61                                    
62                  levenshteinHelper = new LevenshteinStreetnameHelper( this );                  levenshteinHelper = new LevenshteinStreetnameHelper( this );
63                    metaphoneHelper = new DoubleMetaphoneStreetnameHelper(config);
64                  googleHelper = new GoogleStreetnameHelper( config );                  googleHelper = new GoogleStreetnameHelper( config );
65                  osmHelper = new OSMStreetnameHelper( config );                  osmHelper = new OSMStreetnameHelper( config );
66          }          }
67                    
68            public Address getAddressSafe(int gadeid, short husnr, String litra)  throws Exception {
69                    
70                    Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeid);
71                    
72                    if (gade == null) {
73                            throw new Exception("GadeID ikke fundet");
74                    }
75                    
76                    Map<String,Address> litraList = gade.get(husnr);
77                    
78                    Address addr = litraList.get(litra);
79                    
80                    if (addr == null) {
81                            throw new Exception("Adresse ikke ikke fundet");
82                    }
83                                    
84                    return addr;
85            }
86                    
87    
88          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
89                    return search(postnrStr, adresse, false);
90            }
91            
92            
93            public SearchResult search(String postnrStr, String adresse, boolean naermesteHusnr)  {
94                                    
95                  postnrStr = postnrStr.trim();                  postnrStr = postnrStr.trim();
96                  adresse = adresse.trim();                  adresse = adresse.trim();
# Line 150  public class AddressSearch { Line 182  public class AddressSearch {
182                  result.gadeident = gadeident;                  result.gadeident = gadeident;
183                                    
184                                    
185                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);                  Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeident);
186                  if (gade == null) { //Denne søgning må ikke fejle                  if (gade == null) { //Denne søgning må ikke fejle
187                          result.status = Status.ERROR_INTERNAL;                          result.status = Status.ERROR_INTERNAL;
188                          return result;                                            return result;                  
# Line 158  public class AddressSearch { Line 190  public class AddressSearch {
190                                    
191                                    
192                  //Kunne evt klares med Iterables.get fra Guava/Collections                  //Kunne evt klares med Iterables.get fra Guava/Collections
193                  Address firstAddress = gade.values().iterator().next();                  Address firstAddress = gade.values().iterator().next().values().iterator().next(); //Første husnr -> første litra
194                  result.vej = firstAddress.vejnavn;                  result.vej = firstAddress.vejnavn;
195                                    
196                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;                  short husnrSearch = Short.parseShort(result.splitResult.husnr );                
197                  Address addr = gade.get(husnrSearch);                  Map<String,Address> litraList = gade.get(husnrSearch);
198                    
199    
200                  if (addr == null) {                  if (litraList == null) { //Husnr ikke fundet
201                          result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;                          
202                          return result;                          if (naermesteHusnr) {
203                                    TreeMap<Short, Map<String,Address>> gadeTreeMap = (TreeMap<Short, Map<String,Address>>) gade;
204                                    result.anvendtHusnr = NearestShortTreeMap.getNearestKey(husnrSearch, gadeTreeMap);
205                                    
206                                    result.nearestHusnr = true;
207                                    litraList = gade.get(result.anvendtHusnr);
208                                    
209                                    
210                            } else {
211                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
212                                    return result;  
213                            }
214                    }
215                    
216                    Address addr = litraList.get( result.splitResult.litra );
217                    
218                    if (addr == null) { //litra ikke fundet
219                            if (config.nearestLitra == true) {
220                                    result.nearestLitra = true;
221                                    addr = litraList.values().iterator().next();                            
222                            } else {
223                                    //husnr fundet men litra blev ikke fundet
224                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
225                                    return result;  
226                            }                      
227                  }                  }
228                                    
229                  result.address = addr;                  result.address = addr;
# Line 207  public class AddressSearch { Line 264  public class AddressSearch {
264                          }                          }
265                  }                  }
266                                    
267                    if (gadeident == null) {
268                            String vej = levenshteinHelper.proposeStreetName(request, result);
269                            if (vej != null) {
270                                    gadeident =  request.streetNames.get(vej);
271                            }
272                    }
273                    
274                                    
275                  // Brug OpenStreetMap før vi prøver google                  // Brug OpenStreetMap før vi prøver google
276                  // For google har en request limit, det har OSM ikke!                  // For google har en request limit, det har OSM ikke!
# Line 244  public class AddressSearch { Line 308  public class AddressSearch {
308                    
309          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
310                  searchPostnrVejnavnGadeid = new HashMap<Short, Map<String,Integer>>();                  searchPostnrVejnavnGadeid = new HashMap<Short, Map<String,Integer>>();
311                  searchGadeidentAdresser = new HashMap<Integer,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Integer,  Map<Short, Map<String,Address>>>();
312                  helperCache = new ConcurrentHashMap<String,Integer>();                  helperCache = new ConcurrentHashMap<String,Integer>();
313                                    
314                  long start1 = System.currentTimeMillis();                  long start1 = System.currentTimeMillis();
315                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
316                                    
317                  alleAdresser = DatabaseLayer.getAllAdresses();                  alleAdresser = db.getAllAdresses();
318                                    
319                                    
320                  /* Mapper mellem db Row ID og adresse noden */                  /* Mapper mellem db Row ID og adresse noden */
321                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );
322                  DeduplicateHelper<String> aliasHelper = new DeduplicateHelper<String>();                  DeduplicateHelper<String> aliasHelper = new DeduplicateHelper<String>();
                 DeduplicateHelper<String> husnrHelper = new DeduplicateHelper<String>();  
323                                    
324                  for (Address a : alleAdresser) {                  for (Address a : alleAdresser) {
325                          idAddressMap.put(a.id, a);                          idAddressMap.put(a.id, a);
# Line 285  public class AddressSearch { Line 348  public class AddressSearch {
348                                  }                                                                }                              
349                          }                          }
350                                                    
351                          Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident);                          Map<Short, Map<String,Address>> gade =  searchGadeidentAdresser.get(gadeident);
352                          if (gade == null) {                          if (gade == null) {
353                                  gade = new HashMap<String, Address>();                                  gade = new TreeMap<Short, Map<String,Address>>();
354                                  searchGadeidentAdresser.put(gadeident, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
355                          }                          }
356                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          
357                          husnrSearch = husnrHelper.getInstance(husnrSearch);                          Map<String,Address> litraList = gade.get(a.husnr);
358                          gade.put(husnrSearch, a);                                                if (litraList == null) {
359                                    litraList = new HashMap<String,Address>();
360                                    gade.put(a.husnr, litraList);
361                            }
362                            
363                            litraList.put(a.husnrbogstav, a);                      
364                  }                  }
365                                    
366                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
# Line 301  public class AddressSearch { Line 369  public class AddressSearch {
369                  System.out.println("Build -- stage 2 alias tabel");                  System.out.println("Build -- stage 2 alias tabel");
370                                    
371                  int vaskCount = 0;                  int vaskCount = 0;
372                  List<AliasBean> aliasList = DatabaseLayer.getAliasList();                  List<AliasBean> aliasList = db.getAliasList();
373                  for (AliasBean alias : aliasList) {                  for (AliasBean alias : aliasList) {
374                          Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);                          Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
375                                                    
# Line 338  public class AddressSearch { Line 406  public class AddressSearch {
406                  DeduplicateHelper<String> ruteHelper = new DeduplicateHelper<String>();                  DeduplicateHelper<String> ruteHelper = new DeduplicateHelper<String>();
407                  DeduplicateHelper<String> korelisteHelper = new DeduplicateHelper<String>();                  DeduplicateHelper<String> korelisteHelper = new DeduplicateHelper<String>();
408                                    
409                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = db.getExtendedAdresslist();
410                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
411                                                    
412                          Address orgAddress = idAddressMap.get(eb.orgId);                                                  Address orgAddress = idAddressMap.get(eb.orgId);                        
# Line 412  public class AddressSearch { Line 480  public class AddressSearch {
480                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
481                  System.out.println("Build -- stage 4 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
482                                    
483                  Map<Short,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();                  Map<Short,HundredePctBean> hundredePct = db.get100PctList();
484                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
485                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                                                  if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                        
486                                  continue;                                  continue;
# Line 437  public class AddressSearch { Line 505  public class AddressSearch {
505                                    
506                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
507                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
508                  System.out.println("Build, stage3 elapsed: " + (stop-start4) );                  System.out.println("Build, stage4 elapsed: " + (stop-start4) );
509                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
510                                                                    
511                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 455  public class AddressSearch { Line 523  public class AddressSearch {
523                                  stats.ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
524                          }                          }
525                  }                                }              
526                    stats.totalCount = alleAdresser.size();
527                                    
528                                    
529                  stats.elapsed = stop-start1;                              stats.elapsed = stop-start1;            
530                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
531                                    
532                    System.out.println("Build: totalCount: " + stats.totalCount);
533                  System.out.println("Build: direkteCount: " + stats.direkteCount);                  System.out.println("Build: direkteCount: " + stats.direkteCount);
534                  System.out.println("Build: extendedCount: " + stats.extendedCount);                  System.out.println("Build: extendedCount: " + stats.extendedCount);
535                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
# Line 474  public class AddressSearch { Line 544  public class AddressSearch {
544                  return stats;                  return stats;
545          }          }
546                    
547            public DatabaseLayer getDatabaseLayer() {
548                    return db;
549            }
550            
551          public void clear() {          public void clear() {
552                  searchPostnrVejnavnGadeid.clear();                  searchPostnrVejnavnGadeid.clear();
553                  searchGadeidentAdresser.clear();                  searchGadeidentAdresser.clear();
# Line 496  public class AddressSearch { Line 570  public class AddressSearch {
570                                  return ".." + targetAddress.rute;                                  return ".." + targetAddress.rute;
571                          } else if (eb.afstand < 0.701) {                          } else if (eb.afstand < 0.701) {
572                                  return "..." + targetAddress.rute;                                  return "..." + targetAddress.rute;
573                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 1.001) {
574                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.rute;
575                          }                          }
576                          break;                                            break;                  
# Line 522  public class AddressSearch { Line 596  public class AddressSearch {
596                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.rute;
597                          }                          }
598                          break;                          break;
599                    default:
600                            System.out.println("Ukendt transport type: " + eb );
601                  }                                }              
602                  return null;                  return null;
603          }          }
# Line 537  public class AddressSearch { Line 613  public class AddressSearch {
613                  return result;                  return result;
614          }          }
615                    
616            public List<Address> get100PctAddresses() {
617                    List<Address> result = new ArrayList<Address>(120000);
618                    for (Address a : alleAdresser) {
619                            if ( a.daekningsType == DaekningsType.DAEKNING_100PCT) {
620                                    result.add(a);
621                            }
622                    }
623                    Collections.sort(result );
624                    return result;
625            }
626            
627          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
628          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
629                  String inject;                  String inject;
# Line 575  public class AddressSearch { Line 662  public class AddressSearch {
662                  aliasSet.add(vejnavn.replace("gl", "gammel") );                  aliasSet.add(vejnavn.replace("gl", "gammel") );
663                  aliasSet.add(vejnavn.replace("gammel", "gl") );                  aliasSet.add(vejnavn.replace("gammel", "gl") );
664                                    
665                    aliasSet.add(vejnavn.replace("gl", "gamle") );
666                    aliasSet.add(vejnavn.replace("gamle", "gl") );
667                    
668                  aliasSet.add(vejnavn.replace("lille", "ll") );                  aliasSet.add(vejnavn.replace("lille", "ll") );
669                  aliasSet.add(vejnavn.replace("ll ", "lille") );                  aliasSet.add(vejnavn.replace("ll ", "lille") );
670                  aliasSet.add(vejnavn.replace("ll.", "lille") );                  aliasSet.add(vejnavn.replace("ll.", "lille") );
# Line 584  public class AddressSearch { Line 674  public class AddressSearch {
674                  aliasSet.add(vejnavn.replace("st.", "store") );                  aliasSet.add(vejnavn.replace("st.", "store") );
675                                    
676                  aliasSet.add(vejnavn.replace("søndre", "sdr") );                  aliasSet.add(vejnavn.replace("søndre", "sdr") );
677                  aliasSet.add(vejnavn.replace("sdr", "søndre") );                  aliasSet.add(vejnavn.replace("sdr", "søndre") );              
678                    aliasSet.add(vejnavn.replace("sønder", "sdr") );
679                    aliasSet.add(vejnavn.replace("sdr", "sønder") );
680    
681                                    
682                  aliasSet.add(vejnavn.replace("nørre", "nr") );                  aliasSet.add(vejnavn.replace("nørre", "nr") );
# Line 620  public class AddressSearch { Line 712  public class AddressSearch {
712                  aliasSet.add(vejnavn.replace("john", "j") );                  aliasSet.add(vejnavn.replace("john", "j") );
713                  aliasSet.add(vejnavn.replace("thomas", "th") );                  aliasSet.add(vejnavn.replace("thomas", "th") );
714                  aliasSet.add(vejnavn.replace("thorvald", "th") );                  aliasSet.add(vejnavn.replace("thorvald", "th") );
715                    aliasSet.add(vejnavn.replace("frederik", "fr") );
716                    aliasSet.add(vejnavn.replace("frederiks", "fr") );
717                                    
718                                    
719                  aliasSet.add(vejnavn.replace("christian", "chr") );                  aliasSet.add(vejnavn.replace("christian", "chr") );
720                    aliasSet.add(vejnavn.replace("christians", "chr") );
721                  aliasSet.add(vejnavn.replace("kristian", "kr") );                  aliasSet.add(vejnavn.replace("kristian", "kr") );
722                    aliasSet.add(vejnavn.replace("kristians", "kr") );
723    
724                    aliasSet.add(vejnavn.replace("mylius", "myl") );
725                    aliasSet.add(vejnavn.replace("myl", "mylius") );
726                    
727                    aliasSet.add(vejnavn.replace("ludvig", "ludv") );
728                    aliasSet.add(vejnavn.replace("ludv", "ludvig") );
729                                    
730                                    
731                  // alternative stavninger                  // alternative stavninger
# Line 689  public class AddressSearch { Line 791  public class AddressSearch {
791    
792                  aliasSet.add(vejnavn.replace("boulevard", "boule") );                  aliasSet.add(vejnavn.replace("boulevard", "boule") );
793                  aliasSet.add(vejnavn.replace("boule", "boulevard") );                  aliasSet.add(vejnavn.replace("boule", "boulevard") );
794                                    
795                    aliasSet.add(vejnavn.replace("kronborg", "krbg") ); //Krbg ladegårdsvej, 3000
796                    aliasSet.add(vejnavn.replace("krbg", "kronborg") );
797                                    
798                  // Opbyg æøå varianter over alle fundne aliaser                  // Opbyg æøå varianter over alle fundne aliaser
799                                    
# Line 737  public class AddressSearch { Line 842  public class AddressSearch {
842                    
843          public Set<Entry<String,Integer>> getVejnavne(short postnr) {          public Set<Entry<String,Integer>> getVejnavne(short postnr) {
844                  Map<String,Integer> map = searchPostnrVejnavnGadeid.get(postnr);                  Map<String,Integer> map = searchPostnrVejnavnGadeid.get(postnr);
845                  TreeMap<String,Integer> newMap = new TreeMap<String,Integer>();                  
846                  for (Entry<String,Integer> entry : map.entrySet() ) {                  TreeMap<String,Integer> newMap = new TreeMap<String,Integer>( map );//Lav et nyt TreeMap for at sikre sortering
                         newMap.put(entry.getKey(), entry.getValue());  
                 }  
847                                    
848                  return newMap.entrySet();                  return newMap.entrySet();
849          }          }
850                    
851          public Set<String> getHusnumre(int gadeid) {          public Set<String> getHusnumre(int gadeid) {
852                                                                    
853                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeid);                  Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
854                                    
855                  Set<String> set = new TreeSet<String>( new NaturalOrderComparator<String>() );                  Set<String> set = new TreeSet<String>( new NaturalOrderComparator<String>() );
856                  set.addAll( gade.keySet() );                  for(Map<String,Address> litraList : gade.values()) {
857                            for (Address a: litraList.values()) {
858                                    set.add( a.husnr + a.husnrbogstav );                            
859                            }
860                    }
861                                    
862                  return set;                  return set;
863          }          }
864                    
865          public Address getAdresse(int gadeid, String husnr) {          public Address getAdresse(int gadeid, String husnrStr) {
866                    
867                    short husnr = Short.parseShort( husnrStr.replaceAll("\\d","") );
868                    String litra =  husnrStr.replaceAll("^\\d", "");
869                                    
870                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeid);                  Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
871                  return gade.get(husnr);                  Map<String, Address> litraList = gade.get(husnr);
872                    return litraList.get(litra);
873                                    
874          }          }
875                                    
Legend:
Removed from v.2560  
changed lines
  Added in v.2785
  ViewVC Help
Powered by ViewVC 1.1.20