/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java revision 2293 by torben, Sat Feb 14 10:30:32 2015 UTC dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java revision 2805 by torben, Thu Jan 14 07:54:17 2016 UTC
# Line 1  Line 1 
1  package dk.daoas.daoadresseservice;  package dk.daoas.daoadresseservice;
2    
3  import java.sql.SQLException;  import java.sql.SQLException;
4    import java.text.SimpleDateFormat;
5    import java.util.ArrayList;
6    import java.util.Collections;
7    import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
9  import java.util.HashSet;  import java.util.HashSet;
10  import java.util.List;  import java.util.List;
11  import java.util.Map;  import java.util.Map;
12    import java.util.Map.Entry;
13  import java.util.Set;  import java.util.Set;
14    import java.util.TreeMap;
15    import java.util.TreeSet;
16  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
17    
18  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;  import org.apache.commons.lang3.StringUtils;
19    
20    import dk.daoas.daoadresseservice.admin.ServiceConfig;
21  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
22    import dk.daoas.daoadresseservice.beans.AliasBean;
23    import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
24  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
25  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
26    import dk.daoas.daoadresseservice.beans.SearchRequest;
27  import dk.daoas.daoadresseservice.beans.SearchResult;  import dk.daoas.daoadresseservice.beans.SearchResult;
28  import dk.daoas.daoadresseservice.beans.SearchResult.Status;  import dk.daoas.daoadresseservice.beans.SearchResult.Status;
29  import dk.daoas.daoadresseservice.db.DatabaseLayer;  import dk.daoas.daoadresseservice.db.DatabaseLayer;
30    import dk.daoas.daoadresseservice.util.DaoUtils;
31    import dk.daoas.daoadresseservice.util.DeduplicateHelper;
32    import dk.daoas.daoadresseservice.util.NaturalOrderComparator;
33    import dk.daoas.daoadresseservice.util.NearestShortTreeMap;
34    
35  public class AdressSearch {  public class AddressSearch {
36    
37          Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Short, Map<String,Integer>> searchPostnrVejnavnGadeid;      
38          Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Integer,  Map<Short, Map<String,Address>>> searchGadeidentAdresser; // Gadeident -> husnrumre -> litra
39            
40    
41          List<Address> alleAdresser;          private List<Address> alleAdresser;
42            
43            private Map<String,Integer> helperCache;
44            
45            private DataStatisticsBean stats = new DataStatisticsBean();
46            
47            private DatabaseLayer db;
48            private ServiceConfig config;
49            
50            
51            StreetnameHelper levenshteinHelper;
52            StreetnameHelper metaphoneHelper;
53            StreetnameHelper googleHelper;
54            StreetnameHelper osmHelper;
55                    
56                    
57          Map<Integer,HundredePctBean> hundredePct;          public AddressSearch(DatabaseLayer db, ServiceConfig config) {
58                    
59                    this.db = db;
60                    this.config = config;
61                    
62                    levenshteinHelper = new LevenshteinStreetnameHelper( this );
63                    metaphoneHelper = new DoubleMetaphoneStreetnameHelper(config);
64                    googleHelper = new GoogleStreetnameHelper( config );
65                    osmHelper = new OSMStreetnameHelper( config );
66            }
67                    
68            public Address getAddressSafe(int gadeid, short husnr, String litra)  throws Exception {
69                    
70                    Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeid);
71                    
72                    if (gade == null) {
73                            throw new Exception("GadeID ikke fundet");
74                    }
75                    
76                    Map<String,Address> litraList = gade.get(husnr);
77                    
78                    Address addr = litraList.get(litra);
79                    
80                    if (addr == null) {
81                            throw new Exception("Adresse ikke ikke fundet");
82                    }
83                                    
84                    return addr;
85            }
86                    
87    
88          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
89  //long start1 = System.currentTimeMillis();                  return search(postnrStr, adresse, false);
90            }
91            
92            
93            public SearchResult search(String postnrStr, String adresse, boolean naermesteHusnr)  {
94                    
95                    postnrStr = postnrStr.trim();
96                    adresse = adresse.trim();
97                    
98                    
99                    SearchRequest request = new SearchRequest();
100                    SearchResult result = new SearchResult();
101                                    
                 int postnr=0;  
102                                    
103                  try {                  try {
104                          postnr = Integer.parseInt(postnrStr);                          request.postnr = Short.parseShort(postnrStr);
105                  } catch (Exception E) {                  } catch (Exception E) {
106                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
107                            return result;
108                  }                                }              
 //long start2 = System.currentTimeMillis();  
109                                    
                 Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                      
110                                    
111                  if (postnrVeje == null) {                  request.streetNames = searchPostnrVejnavnGadeid.get(request.postnr);                    
112                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                  
113                    if (request.streetNames == null) {
114                            result.status = Status.ERROR_UNKNOWN_POSTAL;
115                            return result;
116                  }                  }
117                                    
 //long start3 = System.currentTimeMillis();  
118                                    
119                  SplitResult split = AddressUtils.splitAdresse(adresse);                  result.splitResult = AddressUtils.splitAdresse(adresse);
120                  String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                                            request.vejnavn = result.splitResult.vej;
121                                    
122                  if (split.husnr.length() == 0) {                                                  
123                          return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                                        
124                    if (result.splitResult.husnr.length() == 0) {
125                            result.status = Status.ERROR_MISSING_HOUSENUMBER;
126                            return result;
127                  }                  }
 //long start4 = System.currentTimeMillis();  
128                                    
129                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
130                    
131    
132                    if (result.vasketVejnavn.indexOf("pakkebo") > -1
133                                    || result.vasketVejnavn.indexOf("pakkepost") > -1
134                                    || result.vasketVejnavn.indexOf("postbo") > -1   // postbox/postboks
135                                    || result.vasketVejnavn.indexOf("døgnpost") > -1
136                                    || result.vasketVejnavn.indexOf("døgnbo") > -1 // døgnbox // døgnboks
137                                    || result.vasketVejnavn.equals("id")
138                                    ) {
139                            result.status = Status.ERROR_POSTBOX;
140                            return result;                  
141                    }
142                    
143                    // LookupStreetname er en indkapsling af alm + levenstein + google + osm
144                    Integer gadeident = lookupStretname(request, result, true);
145                    
146                    
147                    /*
148                     * Hvis der ikke er direkte hits, prøver vi at skære ord af vejnavn
149                     *
150                     * <strike>Denne sektion er MEGET experimental da den øger antallet af kald til google/OSM væsentligt</strike>*/
151                  if (gadeident == null) {                  if (gadeident == null) {
152                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);                          final int MAX_TRIES = 4;
153                            
154                            String vejnavnParts[] = request.vejnavn.split(" ");
155                            
156                            for (int i=1; i<=MAX_TRIES && i<vejnavnParts.length; i++) {
157                                    String subVejnavn = DaoUtils.joinHelper(vejnavnParts, i);
158                                    
159                                    request.vejnavn = subVejnavn;
160                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
161                                    
162                                    gadeident = lookupStretname(request, result, false);//prøv opslag MEN UDEN GOOGLE/OSM !!!
163                                    
164                                    //hvis vi fandt vejen ud fra substrengen
165                                    if (gadeident != null) {
166                                            break;
167                                    }                      
168                                    
169                                    //hvis vi ikke fandt kopierer vi vejnavn fra split igen
170                                    request.vejnavn = result.splitResult.vej;
171                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
172                            }                      
173                  }                  }
 //long start5 = System.currentTimeMillis();  
174                                    
175                  Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle  
176                                    
177  //long start6 = System.currentTimeMillis();                  if (gadeident == null) {                        
178                            result.status = Status.ERROR_UNKNOWN_STREETNAME;
179                            return result;
180                    }
181                                    
182                  String husnrSearch = "" + split.husnr + split.litra;                  result.gadeident = gadeident;
183                  Address addr = gade.get(husnrSearch);                  
184  //long start7 = System.currentTimeMillis();                  
185                  if (addr == null) {                  Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeident);
186                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);                  if (gade == null) { //Denne søgning må ikke fejle
187                            result.status = Status.ERROR_INTERNAL;
188                            return result;                  
189                  }                  }
190                                    
191                  if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {                  
192                          return new SearchResult(Status.STATUS_NOT_COVERED);                  //Kunne evt klares med Iterables.get fra Guava/Collections
193                    Address firstAddress = gade.values().iterator().next().values().iterator().next(); //Første husnr -> første litra
194                    result.vej = firstAddress.vejnavn;
195                    
196                    short husnrSearch = Short.parseShort(result.splitResult.husnr );                
197                    Map<String,Address> litraList = gade.get(husnrSearch);
198                    
199    
200                    if (litraList == null) { //Husnr ikke fundet
201                            
202                            if (naermesteHusnr) {
203                                    TreeMap<Short, Map<String,Address>> gadeTreeMap = (TreeMap<Short, Map<String,Address>>) gade;
204                                    result.anvendtHusnr = NearestShortTreeMap.getNearestKey(husnrSearch, gadeTreeMap);
205                                    
206                                    result.nearestHusnr = true;
207                                    litraList = gade.get(result.anvendtHusnr);
208                                    
209                                    
210                            } else {
211                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
212                                    return result;  
213                            }
214                  }                  }
215                                    
216                  if (addr.distributor.equals("LUKKET")) {                  Address addr = litraList.get( result.splitResult.litra );
217                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?                  
218                    if (addr == null) { //litra ikke fundet
219                            if (config.nearestLitra == true || naermesteHusnr == true) {
220                                    result.nearestLitra = true;
221                                    addr = litraList.values().iterator().next();                            
222                            } else {
223                                    //husnr fundet men litra blev ikke fundet
224                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
225                                    return result;  
226                            }                      
227                  }                  }
228                                    
229  /*                  result.address = addr;
230  System.out.println("Search2: " + (start2-start1) );                  
231  System.out.println("Search3: " + (start3-start1) );                  
232  System.out.println("Search4: " + (start4-start1) );                  if ( StringUtils.equals(addr.distributor, "LUKKET") ) {                
233  System.out.println("Search5: " + (start5-start1) );                          result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
234  System.out.println("Search6: " + (start6-start1) );                          return result;
235  System.out.println("Search7: " + (start7-start1) );                  }                              
236  */                  
237                    if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
238                            result.status = Status.STATUS_NOT_COVERED;
239                            return result;
240                    }
241    
                                   
242                                    
243                  return new SearchResult(addr);                  result.status = Status.STATUS_OK;
244    
245                    return result;
246            }
247    
248    
249            private Integer lookupStretname(SearchRequest request, SearchResult result, boolean useExternal) {
250                    String helperSearchKey = "";
251                    
252                    Integer gadeident =  request.streetNames.get(result.vasketVejnavn);
253                    
254                    
255                    if ( gadeident == null) {
256                            helperSearchKey = "" + request.postnr + "/" + result.vasketVejnavn;
257                            gadeident = helperCache.get(helperSearchKey);
258                    }
259                    
260                    if (gadeident == null) {
261                            String vej = levenshteinHelper.proposeStreetName(request, result);
262                            if (vej != null) {
263                                    gadeident =  request.streetNames.get(vej);
264                            }
265                    }
266                    
267                    if (gadeident == null) {
268                            String vej = metaphoneHelper.proposeStreetName(request, result);
269                            if (vej != null) {
270                                    gadeident =  request.streetNames.get(vej);
271                            }
272                    }
273                    
274                    
275                    // Brug OpenStreetMap før vi prøver google
276                    // For google har en request limit, det har OSM ikke!
277                    if ( gadeident == null && useExternal) {
278                            String vej = osmHelper.proposeStreetName(request, result);              
279                            gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
280                    }
281                    
282                    if ( gadeident == null && useExternal) {
283                            String vej = googleHelper.proposeStreetName(request, result);          
284                            gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
285                    }
286                    return gadeident;
287            }
288            
289            private Integer helperWrapper(String vej, Map<String,Integer> postnrVeje, String helperSearchKey) {
290                    if (vej == null)
291                            return null;
292                    
293                    String vejVasket = AddressUtils.vaskVejnavn( vej );
294                    Integer gadeident =  postnrVeje.get(vejVasket);
295                    
296                    if (gadeident != null) {
297                            helperCache.put(helperSearchKey, gadeident);
298                    }
299                    return gadeident;
300                    
301            }
302            
303            public Map<String,Integer> getStretsByPostal(short zip) {
304                    return searchPostnrVejnavnGadeid.get(zip);
305          }          }
306    
307                    
308                    
309          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
310                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Short, Map<String,Integer>>();
311                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Integer,  Map<Short, Map<String,Address>>>();
312                                                    helperCache = new ConcurrentHashMap<String,Integer>();
313                    
314                    long start1 = System.currentTimeMillis();
315                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
316                                    
317                  alleAdresser = DatabaseLayer.getAllAdresses();                  alleAdresser = db.getAllAdresses();
318                                    
319                                    
320                  /* Mapper mellem db Row ID og adresse noden */                  /* Mapper mellem db Row ID og adresse noden */
321                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );
322                    DeduplicateHelper<String> aliasHelper = new DeduplicateHelper<String>(400000); // Indeholder pt 379664 entries
323                    
324                    DeduplicateHelper<Short> shortHelper = new DeduplicateHelper<Short>();
325                    DeduplicateHelper<Integer> intHelper = new DeduplicateHelper<Integer>();
326                    
327                                    
328                  for (Address a : alleAdresser) {                  for (Address a : alleAdresser) {
329                          idAddressMap.put(a.id, a);                          idAddressMap.put(a.id, a);
330                                                    
331                          Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(a.postnr);                                    Short postnr = shortHelper.getInstance(a.postnr);
332                            
333                            Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);        
334                                                    
335                          if (postnrVeje == null) {                          if (postnrVeje == null) {
336                                  postnrVeje = new ConcurrentHashMap<String,Long>();                                  postnrVeje = new HashMap<String,Integer>(10240); //lige nu indeholder den største 9500 entries
337                                  searchPostnrVejnavnGadeid.put(a.postnr, postnrVeje);                                  searchPostnrVejnavnGadeid.put(postnr, postnrVeje);
338                          }                          }
339                                    
340                                                    
341                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
342                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Integer gadeident = postnrVeje.get(vasketVejnavn);
343                          if (gadeident == null) {                          if (gadeident == null) {                                
344                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
345                                                                    
346                                    gadeident = intHelper.getInstance( a.gadeid );
347                                    
348                                  Set<String> aliaser = findVejAliaser(a.vejnavn);                                  Set<String> aliaser = findVejAliaser(a.vejnavn);
349                                  for(String alias : aliaser) {                                  for(String alias : aliaser) {
350                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);
351                                          postnrVeje.put(vasketAlias, a.gadeid);                                            vasketAlias = aliasHelper.getInstance(vasketAlias);
352                                            
353                                            postnrVeje.put(vasketAlias, gadeident);
354                                  }                                  }
355                                                                    
356                          }                          }
357                                                    
358                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          
359                            Map<Short, Map<String,Address>> gade =  searchGadeidentAdresser.get(gadeident);
360                          if (gade == null) {                          if (gade == null) {
361                                  gade = new HashMap<String, Address>();                                  gade = new TreeMap<Short, Map<String,Address>>();
362                                  searchGadeidentAdresser.put(a.gadeid, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
363                          }                          }
364                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          
365                          gade.put(husnrSearch, a);                                                Map<String,Address> litraList = gade.get(a.husnr);
366                            if (litraList == null) {
367                                    litraList = new HashMap<String,Address>();
368                                    gade.put(a.husnr, litraList);
369                            }
370                            
371                            litraList.put(a.husnrbogstav, a);                      
372                  }                  }
373                                    
374    
375                    ////////////////////////////////////////////////////////////////////////////////////////
376                    long start2 = System.currentTimeMillis();
377                    System.out.println("Build, stage1 elapsed: " + (start2-start1) );
378                    System.out.println("Build -- stage 2 alias tabel");
379                    
380                    int vaskCount = 0;
381                    List<AliasBean> aliasList = db.getAliasList();
382                    for (AliasBean alias : aliasList) {
383                            Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
384                            
385                            if (postnrVeje == null) {
386                                    //Burde ikke kunne ske - men better safe than sorry
387                                    continue;
388                            }
389                            
390                            String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
391                            String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
392                            
393                            Integer gadeident = postnrVeje.get(vasketVej);
394                            if (gadeident == null) {
395                                    //Kender ikke den oprindelige vej
396                                    continue;
397                            }
398                            
399                            Integer aliasIdent = postnrVeje.get(vasketAlias);
400                            
401                            if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
402                                    postnrVeje.put(vasketAlias, gadeident);
403                                    vaskCount++;
404                            }
405                            
406                    }
407                    System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
408                                    
409                                    
410                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
411                  System.out.println("Build -- stage 2 udvidet dækning");                  long start3 = System.currentTimeMillis();
412                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
413                    System.out.println("Build -- stage 3 udvidet dækning");
414                    
415                    DeduplicateHelper<String> ruteHelper = new DeduplicateHelper<String>();
416                    DeduplicateHelper<String> korelisteHelper = new DeduplicateHelper<String>();
417                                    
418                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = db.getExtendedAdresslist();
419                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
420                                                    
421                          Address orgAddress = idAddressMap.get(eb.orgId);                                                  Address orgAddress = idAddressMap.get(eb.orgId);                        
422                          if (orgAddress == null)                          if (orgAddress == null)
423                                  continue;                                  continue;
424                                                    
425                            if (orgAddress.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {
426                                    //kan være at adressen er blevet markeret dækket og - find-nærmeste data ikke er opdateret i mellemtiden
427                                    continue;
428                            }
429                            
430                          Address targetAddress = idAddressMap.get(eb.targetId);                          Address targetAddress = idAddressMap.get(eb.targetId);
431                          if (targetAddress == null)                          if (targetAddress == null) {
432                                  continue;                                  continue;
433                            }
434                                                    
435                          if (orgAddress.distributor != null && orgAddress.distributor.equals("LUKKET")) {                          
436                            if ( StringUtils.equals(orgAddress.distributor, "LUKKET") ) {
437                                  continue;                                  continue;
438                          }                                                }                      
439                                                    
440                          if (targetAddress.distributor.equals("LUKKET")) {                          
441                            
442                            if ( StringUtils.equals(targetAddress.distributor, "LUKKET") ) {
443                                  continue;                                  continue;
444                          }                          }
445                                                    
# Line 167  System.out.println("Search7: " + (start7 Line 448  System.out.println("Search7: " + (start7
448    
449                          boolean covered = false;                          boolean covered = false;
450                          if (targetAddress.distributor.equals("DAO")) {                          if (targetAddress.distributor.equals("DAO")) {
451                                  orgAddress.rute = calculateExtendedDaoRoute(eb,orgAddress,targetAddress);                                                                orgAddress.rute = calculateExtendedDaoRoute(eb,orgAddress,targetAddress);      
452                                    orgAddress.rute = ruteHelper.getInstance(orgAddress.rute);
453                                    
454                                  if (orgAddress.rute != null) {                                  if (orgAddress.rute != null) {
455                                          orgAddress.koreliste = targetAddress.koreliste;                                          orgAddress.koreliste = targetAddress.koreliste;
456                                          covered = true;                                          covered = true;
# Line 175  System.out.println("Search7: " + (start7 Line 458  System.out.println("Search7: " + (start7
458                          }                          }
459                                                    
460                          if (targetAddress.distributor.equals("BK")) {                          if (targetAddress.distributor.equals("BK")) {
461                                  orgAddress.koreliste = calculateExtendedBkKoreliste(eb,orgAddress,targetAddress);                                                                orgAddress.koreliste = calculateExtendedBkKoreliste(eb,orgAddress,targetAddress);
462                                    orgAddress.koreliste = korelisteHelper.getInstance(orgAddress.koreliste);
463                                    
464                                  if (orgAddress.koreliste != null) {                                  if (orgAddress.koreliste != null) {
465                                          orgAddress.rute = targetAddress.rute;                                          orgAddress.rute = targetAddress.rute;
466                                          covered = true;                                          covered = true;
# Line 187  System.out.println("Search7: " + (start7 Line 472  System.out.println("Search7: " + (start7
472                                  orgAddress.dbkBane = targetAddress.dbkBane;                                  orgAddress.dbkBane = targetAddress.dbkBane;
473                                                                    
474                                  /* Sådan gør den gamle service */                                  /* Sådan gør den gamle service */
475                                  orgAddress.kommunekode = targetAddress.kommunekode;                                  /* 20150520 THN- hvis vi bibeholder de originale kommune+vejkoder kan vi bruge DAVID til join i databasen*/
476                                  orgAddress.vejkode = targetAddress.vejkode;                                  //orgAddress.kommunekode = targetAddress.kommunekode;
477                                    //orgAddress.vejkode = targetAddress.vejkode;
478                                    
479                                                                    
480                                  orgAddress.distributor = targetAddress.distributor;                                  orgAddress.distributor = targetAddress.distributor;
481                          }                          }
# Line 198  System.out.println("Search7: " + (start7 Line 485  System.out.println("Search7: " + (start7
485                  idAddressMap = null;                  idAddressMap = null;
486                                    
487                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
488                  System.out.println("Build -- stage 3 - 100pct");                  long start4 = System.currentTimeMillis();
489                    System.out.println("Build, stage3 elapsed: " + (start4-start3) );
490                    System.out.println("Build -- stage 4 - 100pct");
491                                    
492                  hundredePct = DatabaseLayer.get100PctList();                  Map<Short,HundredePctBean> hundredePct = db.get100PctList();
493                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
494                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                                                  if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                        
495                                  continue;                                  continue;
# Line 224  System.out.println("Search7: " + (start7 Line 513  System.out.println("Search7: " + (start7
513                  }                  }
514                                    
515                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
516                    long stop = System.currentTimeMillis();
517                    System.out.println("Build, stage4 elapsed: " + (stop-start4) );
518                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
519                                                    
                 int direkteCount = 0;  
                 int extendedCount = 0;  
                 int hundredePctCount = 0;  
                 int ikkeDaekketCount = 0;  
                   
520                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
521                          switch (addr.daekningsType) {                          switch (addr.daekningsType) {
522                          case DAEKNING_DIREKTE:                          case DAEKNING_DIREKTE:
523                                  direkteCount++;                                  stats.direkteCount++;
524                                  break;                                  break;
525                          case DAEKNING_UDVIDET:                          case DAEKNING_UDVIDET:
526                                  extendedCount++;                                  stats.extendedCount++;
527                                  break;                                  break;
528                          case DAEKNING_100PCT:                          case DAEKNING_100PCT:
529                                  hundredePctCount++;                                  stats.hundredePctCount++;
530                                  break;                                  break;
531                          default:                          default:
532                                  ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
533                          }                          }
534                  }                  }              
535                    stats.totalCount = alleAdresser.size();
536                    
537                    
538                    stats.elapsed = stop-start1;            
539                    stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
540                                    
541                  System.out.println("Build: direkteCount: " + direkteCount);                  System.out.println("Build: totalCount: " + stats.totalCount);
542                  System.out.println("Build: extendedCount: " + extendedCount);                  System.out.println("Build: direkteCount: " + stats.direkteCount);
543                  System.out.println("Build: hundredePctCount: " + hundredePctCount);                  System.out.println("Build: extendedCount: " + stats.extendedCount);
544                  System.out.println("Build: ikkeDaekketCount: " + ikkeDaekketCount);                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
545                    System.out.println("Build: ikkeDaekketCount: " + stats.ikkeDaekketCount);
546                                    
547                    System.out.println("Build: Total Elapsed: " + (stop-start1) );
548                  System.out.println("Build Completed");                  System.out.println("Build Completed");
549                                    
550          }          }
551                    
552            public DataStatisticsBean getStatistics() {
553                    return stats;
554            }
555            
556            public DatabaseLayer getDatabaseLayer() {
557                    return db;
558            }
559            
560            public void clear() {
561                    searchPostnrVejnavnGadeid.clear();
562                    searchGadeidentAdresser.clear();
563                    alleAdresser.clear();
564                    helperCache.clear();
565            }
566            
567                    
568          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
569                    if (targetAddress.rute == null) { //hvis targetAdress.rute er null så er adressen ikke dækket alligevel
570                            return null;
571                    }
572    
573                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
574                  switch( eb.transport) {                  switch( eb.transport) {
# Line 268  System.out.println("Search7: " + (start7 Line 579  System.out.println("Search7: " + (start7
579                                  return ".." + targetAddress.rute;                                  return ".." + targetAddress.rute;
580                          } else if (eb.afstand < 0.701) {                          } else if (eb.afstand < 0.701) {
581                                  return "..." + targetAddress.rute;                                  return "..." + targetAddress.rute;
582                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 1.001) {
583                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.rute;
584                          }                          }
585                          break;                                            break;                  
# Line 294  System.out.println("Search7: " + (start7 Line 605  System.out.println("Search7: " + (start7
605                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.rute;
606                          }                          }
607                          break;                          break;
608                    default:
609                            System.out.println("Ukendt transport type: " + eb );
610                  }                                }              
611                  return null;                  return null;
612          }                }
613            
614            public List<Address> getNonCoveredAddresses() {
615                    List<Address> result = new ArrayList<Address>(60000);
616                    for (Address a : alleAdresser) {
617                            if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
618                                    result.add(a);
619                            }
620                    }
621                    Collections.sort(result );
622                    return result;
623            }
624            
625            public List<Address> get100PctAddresses() {
626                    List<Address> result = new ArrayList<Address>(120000);
627                    for (Address a : alleAdresser) {
628                            if ( a.daekningsType == DaekningsType.DAEKNING_100PCT) {
629                                    result.add(a);
630                            }
631                    }
632                    Collections.sort(result );
633                    return result;
634            }
635                    
636          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
637          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
# Line 311  System.out.println("Search7: " + (start7 Line 646  System.out.println("Search7: " + (start7
646                    
647          private Set<String> findVejAliaser(String vejnavn) {          private Set<String> findVejAliaser(String vejnavn) {
648                  vejnavn = vejnavn.toLowerCase();                  vejnavn = vejnavn.toLowerCase();
649                  Set<String> aliasSet = new HashSet<String>();                  HashSet<String> aliasSet = new HashSet<String>();
650                  aliasSet.add(vejnavn);                  aliasSet.add(vejnavn);
651                                                    
652                  aliasSet.add(vejnavn.replace("alle", "allé") );                  aliasSet.add(vejnavn.replace("alle", "allé") );
653                  aliasSet.add(vejnavn.replace("allé", "alle") );                  aliasSet.add(vejnavn.replace("allé", "alle") );                
654                    
655                    
656                    // forkortelser
657                    aliasSet.add(vejnavn.replace("dronningens", "dr") );
658                    aliasSet.add(vejnavn.replace("dr.", "dronningens") );
659                    aliasSet.add(vejnavn.replace("dr ", "dronningens") );
660                                    
661                  // danske tegn 1                  aliasSet.add(vejnavn.replace("dronning", "dr") );
662                  aliasSet.add(vejnavn.replace("æ", "ae") );                  aliasSet.add(vejnavn.replace("dr.", "dronning") );
663                  aliasSet.add(vejnavn.replace("ø", "oe") );                  aliasSet.add(vejnavn.replace("dr ", "dronning") );
                 aliasSet.add(vejnavn.replace("å", "aa") );  
                 aliasSet.add(vejnavn.replace("ae", "æ") );  
                 aliasSet.add(vejnavn.replace("oe", "ø") );  
                 aliasSet.add(vejnavn.replace("aa", "å") );  
                   
                 //danske tegn 2  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe") );  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ø", "ae").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("oe","ø") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("aa","å") );  
                 aliasSet.add( vejnavn.replace("oe", "ø").replace("aa", "å") );  
                   
                 //danske tegn 3  
                 aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );  
                 aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );  
664                                    
665                    aliasSet.add(vejnavn.replace("kng", "kongen") );
666                    aliasSet.add(vejnavn.replace("kongen", "kng") );
667                    
668                    aliasSet.add(vejnavn.replace("kvt", "kvarter") );
669                    aliasSet.add(vejnavn.replace("kvarter", "kvt") );
670                                    
671                  aliasSet.add(vejnavn.replace("gl", "gammel") );                  aliasSet.add(vejnavn.replace("gl", "gammel") );
672                  aliasSet.add(vejnavn.replace("gammel", "gl") );                  aliasSet.add(vejnavn.replace("gammel", "gl") );
673                                    
674                    aliasSet.add(vejnavn.replace("gl", "gamle") );
675                    aliasSet.add(vejnavn.replace("gamle", "gl") );
676                    
677                  aliasSet.add(vejnavn.replace("lille", "ll") );                  aliasSet.add(vejnavn.replace("lille", "ll") );
678                  aliasSet.add(vejnavn.replace("ll ", "lille") );                  aliasSet.add(vejnavn.replace("ll ", "lille") );
679                  aliasSet.add(vejnavn.replace("ll.", "lille") );                  aliasSet.add(vejnavn.replace("ll.", "lille") );
# Line 350  System.out.println("Search7: " + (start7 Line 683  System.out.println("Search7: " + (start7
683                  aliasSet.add(vejnavn.replace("st.", "store") );                  aliasSet.add(vejnavn.replace("st.", "store") );
684                                    
685                  aliasSet.add(vejnavn.replace("søndre", "sdr") );                  aliasSet.add(vejnavn.replace("søndre", "sdr") );
686                  aliasSet.add(vejnavn.replace("sdr", "søndre") );                  aliasSet.add(vejnavn.replace("sdr", "søndre") );              
687                    aliasSet.add(vejnavn.replace("sønder", "sdr") );
688                    aliasSet.add(vejnavn.replace("sdr", "sønder") );
689    
690                                    
691                  aliasSet.add(vejnavn.replace("nørre", "nr") );                  aliasSet.add(vejnavn.replace("nørre", "nr") );
# Line 358  System.out.println("Search7: " + (start7 Line 693  System.out.println("Search7: " + (start7
693                                    
694                  aliasSet.add(vejnavn.replace("nordre", "ndr") );                  aliasSet.add(vejnavn.replace("nordre", "ndr") );
695                  aliasSet.add(vejnavn.replace("ndr", "nordre") );                  aliasSet.add(vejnavn.replace("ndr", "nordre") );
696                    
697                    
698                    aliasSet.add(vejnavn.replace("vestre", "vester") );
699                    aliasSet.add(vejnavn.replace("vester", "vestre") );
700                    
701                    aliasSet.add(vejnavn.replace("søndre", "sønder") );
702                    aliasSet.add(vejnavn.replace("sønder", "søndre") );
703                    
704                    aliasSet.add(vejnavn.replace("østre", "øster") );
705                    aliasSet.add(vejnavn.replace("øster", "østre") );
706                    
707                    aliasSet.add(vejnavn.replace("borgmester", "borgm") );
708                    aliasSet.add(vejnavn.replace("borgm", "borgmester") );
709                    
710                                                                    
711                  aliasSet.add(vejnavn.replace("sankt", "skt") );                  aliasSet.add(vejnavn.replace("sankt", "skt") );
712                    aliasSet.add(vejnavn.replace("sankt", "sct") );
713                  aliasSet.add(vejnavn.replace("skt", "sankt") );                  aliasSet.add(vejnavn.replace("skt", "sankt") );
714                                    
715                  aliasSet.add(vejnavn.replace("skt", "sct") );                  aliasSet.add(vejnavn.replace("skt", "sct") );
716                  aliasSet.add(vejnavn.replace("sct", "skt") );                                            aliasSet.add(vejnavn.replace("sct", "skt") );          
717                    
718                    
719                    
720                    // fornavn forkortelser
721                    aliasSet.add(vejnavn.replace("john", "j") );
722                    aliasSet.add(vejnavn.replace("thomas", "th") );
723                    aliasSet.add(vejnavn.replace("thorvald", "th") );
724                    aliasSet.add(vejnavn.replace("frederik", "fr") );
725                    aliasSet.add(vejnavn.replace("frederiks", "fr") );
726                    
727                    
728                    aliasSet.add(vejnavn.replace("christian", "chr") );
729                    aliasSet.add(vejnavn.replace("christians", "chr") );
730                    aliasSet.add(vejnavn.replace("kristian", "kr") );
731                    aliasSet.add(vejnavn.replace("kristians", "kr") );
732    
733                    aliasSet.add(vejnavn.replace("mylius", "myl") );
734                    aliasSet.add(vejnavn.replace("myl", "mylius") );
735                    
736                    aliasSet.add(vejnavn.replace("ludvig", "ludv") );
737                    aliasSet.add(vejnavn.replace("ludv", "ludvig") );
738                    
739                    
740                    // alternative stavninger
741                    aliasSet.add(vejnavn.replace("peder", "peter") );
742                    aliasSet.add(vejnavn.replace("peter", "peder") );
743                    
744    
745                    
746                    // Romertal
747                    aliasSet.add(vejnavn.replace("1", "i") );
748                    aliasSet.add(vejnavn.replace("i", "1") );
749                    
750                    aliasSet.add(vejnavn.replace("2", "ii") );
751                    aliasSet.add(vejnavn.replace("ii", "2") );
752                    
753                    aliasSet.add(vejnavn.replace("3", "iii") );
754                    aliasSet.add(vejnavn.replace("iii", "3") );
755                    
756                    aliasSet.add(vejnavn.replace("4", "iv") );
757                    aliasSet.add(vejnavn.replace("iv", "4") );
758                    
759                    aliasSet.add(vejnavn.replace("5", "v") );
760                    aliasSet.add(vejnavn.replace("v", "5") );
761                    
762                    aliasSet.add(vejnavn.replace("6", "vi") );
763                    aliasSet.add(vejnavn.replace("vi", "6") );
764                    
765                    aliasSet.add(vejnavn.replace("7", "vii") );
766                    aliasSet.add(vejnavn.replace("vii", "7") );
767                    
768                    aliasSet.add(vejnavn.replace("8", "viii") );
769                    aliasSet.add(vejnavn.replace("viii", "8") );
770                    
771                    aliasSet.add(vejnavn.replace("9", "ix") );
772                    aliasSet.add(vejnavn.replace("ix", "9") );
773                    
774                    aliasSet.add(vejnavn.replace("10", "x") );
775                    aliasSet.add(vejnavn.replace("x", "10") );              
776    
777                    
778                    //alternative måder at stave vej/gade/alle
779                    aliasSet.add(vejnavn.replace("vej", "ve") );
780                    aliasSet.add(vejnavn.replace("vej", "vj") );
781                    aliasSet.add(vejnavn.replace("vej", "v") );
782                    aliasSet.add(vejnavn.replace("vej", "vejen") );
783                    aliasSet.add(vejnavn.replace("vejen", "vej") );
784                    
785                    aliasSet.add(vejnavn.replace("v", "vej") );//Vi kan have vejnavne i DB der bare slutter på v istedet for vej
786                    
787                    aliasSet.add(vejnavn.replace("alle", "all") );
788                    aliasSet.add(vejnavn.replace("allé", "all") );
789                    aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
790                    aliasSet.add(vejnavn.replace("allé", "allú") );
791                    
792                    aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
793                    aliasSet.add(vejnavn.replace("gade", "gde") );
794                    
795                    aliasSet.add(vejnavn.replace("plads", "pl") );
796                    aliasSet.add(vejnavn.replace("vænget", "vænge") );
797    
798                    aliasSet.add(vejnavn.replace("boulevard", "blvd") );
799                    aliasSet.add(vejnavn.replace("blvd", "boulevard") );
800    
801                    aliasSet.add(vejnavn.replace("boulevard", "boule") );
802                    aliasSet.add(vejnavn.replace("boule", "boulevard") );
803                                    
804                    aliasSet.add(vejnavn.replace("kronborg", "krbg") ); //Krbg ladegårdsvej, 3000
805                    aliasSet.add(vejnavn.replace("krbg", "kronborg") );
806                    
807                    // Opbyg æøå varianter over alle fundne aliaser
808                    
809                    HashSet<String> variants = new HashSet<String>( aliasSet );
810                    
811                    for (String vVejnavn : variants) {                                      
812                            // danske tegn 1
813                            aliasSet.add( vVejnavn.replace("æ", "ae") );
814                            aliasSet.add( vVejnavn.replace("ø", "oe") );
815                            aliasSet.add( vVejnavn.replace("å", "aa") );
816                            aliasSet.add( vVejnavn.replace("ae", "æ") );
817                            aliasSet.add( vVejnavn.replace("oe", "ø") );
818                            aliasSet.add( vVejnavn.replace("aa", "å") );
819                            
820                            //danske tegn 2
821                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );
822                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );
823                            aliasSet.add( vVejnavn.replace("ø", "oe").replace("å", "aa") );
824                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );
825                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );
826                            aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );
827                            
828                            //danske tegn 3
829                            aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );
830                            aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );
831                            
832                            
833                            //udenlandsketegn
834                            aliasSet.add( vVejnavn.replace("u", "ü") );
835                            aliasSet.add( vVejnavn.replace("ü", "u") );
836                            
837                            aliasSet.add( vVejnavn.replace("ä", "æ") );
838                            aliasSet.add( vVejnavn.replace("æ", "ä") );
839                            
840                            aliasSet.add( vVejnavn.replace("ö", "ø") );
841                            aliasSet.add( vVejnavn.replace("ø", "ö") );
842                    }
843                                    
844                  return aliasSet;                  return aliasSet;
845          }          }
846                    
847            public Set<Short> getPostnumre() {
848                    return new TreeSet<Short>( searchPostnrVejnavnGadeid.keySet() );
849            }
850                    
851            public Set<Entry<String,Integer>> getVejnavne(short postnr) {
852                    Map<String,Integer> map = searchPostnrVejnavnGadeid.get(postnr);
853                    
854                    TreeMap<String,Integer> newMap = new TreeMap<String,Integer>( map );//Lav et nyt TreeMap for at sikre sortering
855                    
856                    return newMap.entrySet();
857            }
858            
859            public Set<String> getHusnumre(int gadeid) {
860                                    
861                    Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
862                    
863                    Set<String> set = new TreeSet<String>( new NaturalOrderComparator<String>() );
864                    for(Map<String,Address> litraList : gade.values()) {
865                            for (Address a: litraList.values()) {
866                                    set.add( a.husnr + a.husnrbogstav );                            
867                            }
868                    }
869                    
870                    return set;
871            }
872            
873            public Address getAdresse(int gadeid, String husnrStr) {
874                    short husnr = Short.parseShort( husnrStr.replaceAll("[^\\d]","") );
875                    String litra =  husnrStr.replaceAll("\\d", "");        
876                    
877                    Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
878                    Map<String, Address> litraList = gade.get(husnr);
879                    return litraList.get(litra);
880                    
881            }
882                    
883  }  }
Legend:
Removed from v.2293  
changed lines
  Added in v.2805
  ViewVC Help
Powered by ViewVC 1.1.20