/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AddressSearch.java revision 2411 by torben, Sat Feb 28 17:08:59 2015 UTC dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java revision 2968 by torben, Mon Mar 7 21:00:45 2016 UTC
# Line 6  import java.util.ArrayList; Line 6  import java.util.ArrayList;
6  import java.util.Collections;  import java.util.Collections;
7  import java.util.Date;  import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
 import java.util.HashSet;  
9  import java.util.List;  import java.util.List;
10  import java.util.Map;  import java.util.Map;
11    import java.util.Map.Entry;
12  import java.util.Set;  import java.util.Set;
13    import java.util.TreeMap;
14    import java.util.TreeSet;
15  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
16    
17  import org.apache.commons.lang3.StringUtils;  import org.apache.commons.lang3.StringUtils;
18    
19  import dk.daoas.daoadresseservice.admin.ServiceConfig;  import dk.daoas.daoadresseservice.admin.ServiceConfig;
20  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
21    import dk.daoas.daoadresseservice.beans.Address.RoutingInfo;
22  import dk.daoas.daoadresseservice.beans.AliasBean;  import dk.daoas.daoadresseservice.beans.AliasBean;
23  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;  import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
24  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
# Line 24  import dk.daoas.daoadresseservice.beans. Line 27  import dk.daoas.daoadresseservice.beans.
27  import dk.daoas.daoadresseservice.beans.SearchResult;  import dk.daoas.daoadresseservice.beans.SearchResult;
28  import dk.daoas.daoadresseservice.beans.SearchResult.Status;  import dk.daoas.daoadresseservice.beans.SearchResult.Status;
29  import dk.daoas.daoadresseservice.db.DatabaseLayer;  import dk.daoas.daoadresseservice.db.DatabaseLayer;
30    import dk.daoas.daoadresseservice.util.DaoUtils;
31    import dk.daoas.daoadresseservice.util.DeduplicateHelper;
32    import dk.daoas.daoadresseservice.util.NaturalOrderComparator;
33    import dk.daoas.daoadresseservice.util.NearestShortTreeMap;
34    
35  public class AddressSearch {  public class AddressSearch {
36    
37          private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Short, Map<String,Integer>> searchPostnrVejnavnGadeid;      
38          private Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Integer,  Map<Short, List<Address>>> searchGadeidentAdresser; // Gadeident -> husnrumre -> litra
39            
40          private List<Address> alleAdresser;          private ArrayList<Address> ikkeDaekkedeAdresser = new ArrayList<Address>(60000);
41            private ArrayList<Address> hundredePctAdresser = new ArrayList<Address>(120000);
42                    
43          private Map<String,Long> helperCache;          private Map<String,Integer> helperCache;
44                    
45          private DataStatisticsBean stats = new DataStatisticsBean();          private DataStatisticsBean stats = new DataStatisticsBean();
46                    
47          ServiceConfig config;          private DatabaseLayer db;
48            private ServiceConfig config;
49            
50                    
51          StreetnameHelper levenshteinHelper;          StreetnameHelper levenshteinHelper;
52            StreetnameHelper metaphoneHelper;
53          StreetnameHelper googleHelper;          StreetnameHelper googleHelper;
54          StreetnameHelper osmHelper;          StreetnameHelper osmHelper;
55                    
56                    
57          public AddressSearch(ServiceConfig config) {          public AddressSearch(DatabaseLayer db, ServiceConfig config) {
58                    
59                    this.db = db;
60                  this.config = config;                  this.config = config;
61                                    
62                  levenshteinHelper = new LevenshteinStreetnameHelper( this );                  levenshteinHelper = new LevenshteinStreetnameHelper();
63                    metaphoneHelper = new DoubleMetaphoneStreetnameHelper(config);
64                  googleHelper = new GoogleStreetnameHelper( config );                  googleHelper = new GoogleStreetnameHelper( config );
65                  osmHelper = new OSMStreetnameHelper( config );                  osmHelper = new OSMStreetnameHelper( config );
66          }          }
67                    
68            public Address getAddressSafe(int gadeid, short husnr, String litra)  throws Exception {
69                    
70                    Map<Short, List<Address>> gade = searchGadeidentAdresser.get(gadeid);
71                    
72                    if (gade == null) {
73                            throw new Exception("GadeID ikke fundet");
74                    }
75                    
76                    List<Address> litraList = gade.get(husnr);
77                    
78                    Address addr = null;
79                    for(Address a : litraList) {
80                            if (a.husnrbogstav.equals(litra) ) {
81                                    addr = a;
82                                    break;
83                            }
84                    }
85                    
86                    if (addr == null) {
87                            throw new Exception("Adresse ikke ikke fundet");
88                    }
89                                    
90                    return addr;
91            }
92                    
93    
94          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
95                    return search(postnrStr, adresse, false);
96            }
97            
98            
99            public SearchResult search(String postnrStr, String adresse, boolean naermesteHusnr)  {
100                    
101                    postnrStr = postnrStr.trim();
102                    adresse = adresse.trim();
103                    
104                    
105                  SearchRequest request = new SearchRequest();                  SearchRequest request = new SearchRequest();
106                  SearchResult result = new SearchResult();                  SearchResult result = new SearchResult();
107                                    
   
                 String helperSearchKey = "";  
108                                    
109                  try {                  try {
110                          request.postnr = Integer.parseInt(postnrStr);                          request.postnr = Short.parseShort(postnrStr);
111                  } catch (Exception E) {                  } catch (Exception E) {
112                          result.status = Status.ERROR_UNKNOWN_POSTAL;                          result.status = Status.ERROR_UNKNOWN_POSTAL;
113                          return result;                          return result;
114                  }                                }              
115                                    
                 ;  
116                                    
117                  request.streetNames = searchPostnrVejnavnGadeid.get(request.postnr);                                      request.streetNames = searchPostnrVejnavnGadeid.get(request.postnr);                    
118                                    
# Line 86  public class AddressSearch { Line 132  public class AddressSearch {
132                          return result;                          return result;
133                  }                  }
134                                    
135                  request.vasketVejnavn = AddressUtils.vaskVejnavn( result.splitResult.vej );                  result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
                   
                 Long gadeident =  request.streetNames.get(request.vasketVejnavn);  
136                                    
137                    
138                  if ( gadeident == null) {                  if (result.vasketVejnavn.indexOf("pakkebo") > -1
139                          helperSearchKey = "" + request.postnr + "/" + request.vasketVejnavn;                                  || result.vasketVejnavn.indexOf("pakkepost") > -1
140                          gadeident = helperCache.get(helperSearchKey);                                  || result.vasketVejnavn.indexOf("postbo") > -1   // postbox/postboks
141                  }                                  || result.vasketVejnavn.indexOf("døgnpost") > -1
142                                                    || result.vasketVejnavn.indexOf("døgnbo") > -1 // døgnbox // døgnboks
143                  if (gadeident == null) {                                  || result.vasketVejnavn.equals("id")
144                          String vej = levenshteinHelper.proposeStreetName(request, result);                                  ) {
145                          if (vej != null) {                          result.status = Status.ERROR_POSTBOX;
146                                  gadeident =  request.streetNames.get(vej);                          return result;                  
                         }  
147                  }                  }
148                                    
149                    // LookupStreetname er en indkapsling af alm + levenstein + google + osm
150                    Integer gadeident = lookupStretname(request, result, true);
151                                    
                 // Brug OpenStreetMap før vi prøver google  
                 // For google har en request limit, det har OSM ikke!  
                 if ( gadeident == null) {  
                         String vej = osmHelper.proposeStreetName(request, result);                
                         gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);  
                 }  
152                                    
153                  if ( gadeident == null) {                  /*
154                          String vej = googleHelper.proposeStreetName(request, result);                             * Hvis der ikke er direkte hits, prøver vi at skære ord af vejnavn
155                          gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);                   *
156                     * <strike>Denne sektion er MEGET experimental da den øger antallet af kald til google/OSM væsentligt</strike>*/
157                    if (gadeident == null) {
158                            final int MAX_TRIES = 4;
159                            
160                            String vejnavnParts[] = request.vejnavn.split(" ");
161                            
162                            for (int i=1; i<=MAX_TRIES && i<vejnavnParts.length; i++) {
163                                    String subVejnavn = DaoUtils.joinHelper(vejnavnParts, i);
164                                    
165                                    request.vejnavn = subVejnavn;
166                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
167                                    
168                                    gadeident = lookupStretname(request, result, false);//prøv opslag MEN UDEN GOOGLE/OSM !!!
169                                    
170                                    //hvis vi fandt vejen ud fra substrengen
171                                    if (gadeident != null) {
172                                            break;
173                                    }                      
174                                    
175                                    //hvis vi ikke fandt kopierer vi vejnavn fra split igen
176                                    request.vejnavn = result.splitResult.vej;
177                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
178                            }                      
179                  }                  }
180                                    
181    
# Line 126  public class AddressSearch { Line 188  public class AddressSearch {
188                  result.gadeident = gadeident;                  result.gadeident = gadeident;
189                                    
190                                    
191                  Map<String, Address> gade = searchGadeidentAdresser.get(gadeident);                  Map<Short, List<Address>> gade = searchGadeidentAdresser.get(gadeident);
192                  if (gade == null) { //Denne søgning må ikke fejle                  if (gade == null) { //Denne søgning må ikke fejle
193                          result.status = Status.ERROR_INTERNAL;                          result.status = Status.ERROR_INTERNAL;
194                          return result;                                            return result;                  
195                  }                  }
196                                    
197                                    
198                    
199                  //Kunne evt klares med Iterables.get fra Guava/Collections                  //Kunne evt klares med Iterables.get fra Guava/Collections
200                  Address firstAddress = gade.values().iterator().next();                  Address firstAddress = gade.values().iterator().next().get(0); //Første husnr -> første litra
201                  result.vej = firstAddress.vejnavn;                  result.vej = firstAddress.vejnavn;
202                                    
203                  String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;                  short husnrSearch = Short.parseShort(result.splitResult.husnr );                
204                  Address addr = gade.get(husnrSearch);                  List<Address> litraList = gade.get(husnrSearch);
205                    
206    
207                  if (addr == null) {                  if (litraList == null) { //Husnr ikke fundet
208                          result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;                          
209                          return result;                          if (naermesteHusnr) {
210                                    TreeMap<Short, List<Address>> gadeTreeMap = (TreeMap<Short, List<Address>>) gade;
211                                    result.anvendtHusnr = NearestShortTreeMap.getNearestKey(husnrSearch, gadeTreeMap);
212                                    
213                                    result.nearestHusnr = true;
214                                    litraList = gade.get(result.anvendtHusnr);
215                                    
216                                    
217                            } else {
218                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
219                                    return result;  
220                            }
221                    }
222                    
223                    Address addr  = null;
224                    for(Address a : litraList) {
225                            if ( a.husnrbogstav.equals( result.splitResult.litra ) ) {
226                                    addr = a;
227                                    break;
228                            }
229                    }
230                    
231                    if (addr == null) { //litra ikke fundet
232                            if (config.nearestLitra == true || naermesteHusnr == true) {
233                                    result.nearestLitra = true;
234                                    addr = litraList.get(0);                                
235                            } else {
236                                    //husnr fundet men litra blev ikke fundet
237                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
238                                    return result;  
239                            }                      
240                  }                  }
241                                    
242                  result.address = addr;                  result.address = addr;
# Line 163  public class AddressSearch { Line 257  public class AddressSearch {
257    
258                  return result;                  return result;
259          }          }
260    
261    
262            private Integer lookupStretname(SearchRequest request, SearchResult result, boolean useExternal) {
263                    String helperSearchKey = "";
264                    
265                    Integer gadeident =  request.streetNames.get(result.vasketVejnavn);
266                    
267                    
268                    if ( gadeident == null) {
269                            helperSearchKey = "" + request.postnr + "/" + result.vasketVejnavn;
270                            gadeident = helperCache.get(helperSearchKey);
271                    }
272                    
273                    if (gadeident == null) {
274                            String vej = levenshteinHelper.proposeStreetName(request, result);
275                            if (vej != null) {
276                                    gadeident =  request.streetNames.get(vej);
277                            }
278                    }
279                    
280                    if (gadeident == null) {
281                            String vej = metaphoneHelper.proposeStreetName(request, result);
282                            if (vej != null) {
283                                    gadeident =  request.streetNames.get(vej);
284                            }
285                    }
286                    
287                    
288                    // Brug OpenStreetMap før vi prøver google
289                    // For google har en request limit, det har OSM ikke!
290                    if ( gadeident == null && useExternal) {
291                            String vej = osmHelper.proposeStreetName(request, result);              
292                            gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
293                    }
294                    
295                    if ( gadeident == null && useExternal) {
296                            String vej = googleHelper.proposeStreetName(request, result);          
297                            gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
298                    }
299                    return gadeident;
300            }
301                    
302          private Long helperWrapper(String vej, Map<String,Long> postnrVeje, String helperSearchKey) {          private Integer helperWrapper(String vej, Map<String,Integer> postnrVeje, String helperSearchKey) {
303                  if (vej == null)                  if (vej == null)
304                          return null;                          return null;
305                                    
306                  String vejVasket = AddressUtils.vaskVejnavn( vej );                  String vejVasket = AddressUtils.vaskVejnavn( vej );
307                  Long gadeident =  postnrVeje.get(vejVasket);                  Integer gadeident =  postnrVeje.get(vejVasket);
308                                    
309                  if (gadeident != null) {                  if (gadeident != null) {
310                          helperCache.put(helperSearchKey, gadeident);                          helperCache.put(helperSearchKey, gadeident);
# Line 178  public class AddressSearch { Line 313  public class AddressSearch {
313                                    
314          }          }
315                    
316          public Map<String,Long> getStretsByPostal(int zip) {          public Map<String,Integer> getStretsByPostal(short zip) {
317                  return searchPostnrVejnavnGadeid.get(zip);                  return searchPostnrVejnavnGadeid.get(zip);
318          }          }
319    
320                    
321                    
322          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
323                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Short, Map<String,Integer>>();
324                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Integer,  Map<Short, List<Address>>>();
325                  helperCache = new ConcurrentHashMap<String,Long>();                  helperCache = new ConcurrentHashMap<String,Integer>();
326                    
327                    // //////////////////////
328                    // Start stage1
329                                    
330                  long start1 = System.currentTimeMillis();                  long start1 = System.currentTimeMillis();
331                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
332                                    
333                  alleAdresser = DatabaseLayer.getAllAdresses();                  List<Address> alleAdresser = db.getAllAdresses();
334                                    
335                                    
336                  /* Mapper mellem db Row ID og adresse noden */                  /* Mapper mellem db Row ID og adresse noden - skal bruges i stage3*/
337                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );
338                                    
339                    
340                    DeduplicateHelper<Short> shortHelper = new DeduplicateHelper<Short>();
341                    DeduplicateHelper<Integer> intHelper = new DeduplicateHelper<Integer>();
342                    
343                    AliasGenerator aliasGenerator = new AliasGenerator();
344                    
345                    ArrayList<ArrayList<Address>> litraListCache = new ArrayList<ArrayList<Address>>();
346                    
347                  for (Address a : alleAdresser) {                  for (Address a : alleAdresser) {
348                          idAddressMap.put(a.id, a);                          idAddressMap.put(a.id, a);
349                                                    
350                          Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(a.postnr);                                    Short postnr = shortHelper.getInstance(a.postnr);
351                            
352                            Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);        
353                                                    
354                          if (postnrVeje == null) {                          if (postnrVeje == null) {
355                                  postnrVeje = new ConcurrentHashMap<String,Long>();                                  postnrVeje = new HashMap<String,Integer>(10240); //lige nu indeholder den største 9500 entries
356                                  searchPostnrVejnavnGadeid.put(a.postnr, postnrVeje);                                  searchPostnrVejnavnGadeid.put(postnr, postnrVeje);
357                          }                          }
358                                    
359                                                    
360                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
361                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Integer gadeident = postnrVeje.get(vasketVejnavn);
362                          if (gadeident == null) {                                                          if (gadeident == null) {                                
363                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
364                                                                    
365                                  gadeident = a.gadeid;                                  gadeident = intHelper.getInstance( a.gadeid );
366                                    
367                                    Set<String> aliaser = aliasGenerator.findVejAliaser(a.vejnavn);
368                                    for(String alias : aliaser) {                                  
369                                            postnrVeje.put(alias, gadeident);      
370                                    }
371                                                                    
                                 Set<String> aliaser = findVejAliaser(a.vejnavn);  
                                 for(String alias : aliaser) {  
                                         String vasketAlias = AddressUtils.vaskVejnavn(alias);  
                                         postnrVeje.put(vasketAlias, gadeident);  
                                 }                                
372                          }                          }
373                                                    
374                          Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident);                          
375                            Map<Short, List<Address>> gade =  searchGadeidentAdresser.get(gadeident);
376                          if (gade == null) {                          if (gade == null) {
377                                  gade = new HashMap<String, Address>();                                  gade = new TreeMap<Short, List<Address> >();
378                                  searchGadeidentAdresser.put(gadeident, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
379                          }                          }
380                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          
381                          gade.put(husnrSearch, a);                                                List<Address> litraList = gade.get(a.husnr);
382                            if (litraList == null) {
383                                    litraList = new ArrayList<Address>();
384                                    gade.put(a.husnr, litraList);
385                                    
386                                    litraListCache.add( (ArrayList<Address>) litraList);
387                            }
388                            litraList.add(a);                      
389                  }                  }
390                                    
391                    for (ArrayList<Address> list: litraListCache) {
392                            list.trimToSize();
393                    }
394                    
395                    
396                    litraListCache.clear(); //frigiv hukommelse inden stage2
397                    aliasGenerator.clear();  
398                    shortHelper.clear();
399                    intHelper.clear();
400                                    
401    
402                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
403                  long start2 = System.currentTimeMillis();                  long start2 = System.currentTimeMillis();
404                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );
405                  System.out.println("Build -- stage 2 alias tabel");                  System.out.println("Build -- stage 2 alias tabel");
406                                    
407                  int vaskCount = 0;                  int vaskCount = 0;
408                  List<AliasBean> aliasList = DatabaseLayer.getAliasList();                  List<AliasBean> aliasList = db.getAliasList();
409                  for (AliasBean alias : aliasList) {                  for (AliasBean alias : aliasList) {
410                          Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);                          Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
411                                                    
412                          if (postnrVeje == null) {                          if (postnrVeje == null) {
413                                  //Burde ikke kunne ske - men better safe than sorry                                  //Burde ikke kunne ske - men better safe than sorry
# Line 249  public class AddressSearch { Line 417  public class AddressSearch {
417                          String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);                          String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
418                          String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);                          String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
419                                                    
420                          Long gadeident = postnrVeje.get(vasketVej);                          Integer gadeident = postnrVeje.get(vasketVej);
421                          if (gadeident == null) {                          if (gadeident == null) {
422                                  //Kender ikke den oprindelige vej                                  //Kender ikke den oprindelige vej
423                                  continue;                                  continue;
424                          }                          }
425                                                    
426                          Long aliasIdent = postnrVeje.get(vasketAlias);                          Integer aliasIdent = postnrVeje.get(vasketAlias);
427                                                    
428                          if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet                          if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
429                                  postnrVeje.put(vasketAlias, gadeident);                                  postnrVeje.put(vasketAlias, gadeident);
# Line 265  public class AddressSearch { Line 433  public class AddressSearch {
433                  }                  }
434                  System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");                  System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
435                                    
436                    aliasList.clear();//cleanup inden stage3
437                    
438                                    
439                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
440                  long start3 = System.currentTimeMillis();                  long start3 = System.currentTimeMillis();
441                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );
442                  System.out.println("Build -- stage 3 udvidet dækning");                  System.out.println("Build -- stage 3 udvidet dækning");
443                                    
444                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  DeduplicateHelper<String> ruteHelper = new DeduplicateHelper<String>();
445                    DeduplicateHelper<String> korelisteHelper = new DeduplicateHelper<String>();
446                    
447                    List<ExtendedBean> extDao = db.getExtendedAdresslist();
448                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
449                                                    
450                          Address orgAddress = idAddressMap.get(eb.orgId);                                                  Address orgAddress = idAddressMap.get(eb.orgId);                        
451                          if (orgAddress == null)                          if (orgAddress == null)
452                                  continue;                                  continue;
453                                                    
454                            /*if (orgAddress.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {
455                                    //kan være at adressen er blevet markeret dækket og - find-nærmeste data ikke er opdateret i mellemtiden
456                                    continue;
457                            }*/
458                            
459                          Address targetAddress = idAddressMap.get(eb.targetId);                          Address targetAddress = idAddressMap.get(eb.targetId);
460                          if (targetAddress == null)                          if (targetAddress == null) {
461                                  continue;                                  continue;
462                            }
463                            
464                                                    
465                          if (orgAddress.distributor != null && orgAddress.distributor.equals("LUKKET")) {                          if ( StringUtils.equals(orgAddress.distributor, "LUKKET") ) {
466                                  continue;                                  continue;
467                          }                                                }                      
468                                                    
469                          if (targetAddress.distributor.equals("LUKKET")) {                          
470                            
471                            if ( StringUtils.equals(targetAddress.distributor, "LUKKET") ) {
472                                  continue;                                  continue;
473                          }                          }
474                                                    
# Line 295  public class AddressSearch { Line 477  public class AddressSearch {
477    
478                          boolean covered = false;                          boolean covered = false;
479                          if (targetAddress.distributor.equals("DAO")) {                          if (targetAddress.distributor.equals("DAO")) {
480                                  orgAddress.rute = calculateExtendedDaoRoute(eb,orgAddress,targetAddress);                                                                orgAddress.routingMandag.rute = calculateExtendedDaoRoute(eb, targetAddress.routingMandag);    
481                                  if (orgAddress.rute != null) {                                  orgAddress.routingMandag.rute = ruteHelper.getInstance(orgAddress.routingMandag.rute);
482                                          orgAddress.koreliste = targetAddress.koreliste;                                  
483                                    if (orgAddress.routingMandag.rute != null) {
484                                            orgAddress.routingMandag.koreliste = targetAddress.routingMandag.koreliste;
485                                          covered = true;                                          covered = true;
486                                  }                                  }
487                          }                          }
488                                                    
489                          if (targetAddress.distributor.equals("BK")) {                          if (targetAddress.distributor.equals("BK")) {
490                                  orgAddress.koreliste = calculateExtendedBkKoreliste(eb,orgAddress,targetAddress);                                                                orgAddress.routingMandag.koreliste = calculateExtendedBkKoreliste(eb, targetAddress.routingMandag);
491                                  if (orgAddress.koreliste != null) {                                  orgAddress.routingMandag.koreliste = korelisteHelper.getInstance(orgAddress.routingMandag.koreliste);
492                                          orgAddress.rute = targetAddress.rute;                                  
493                                    if (orgAddress.routingMandag.koreliste != null) {
494                                            orgAddress.routingMandag.rute = targetAddress.routingMandag.rute;
495                                          covered = true;                                          covered = true;
496                                  }                                  }
497                          }                          }
# Line 315  public class AddressSearch { Line 501  public class AddressSearch {
501                                  orgAddress.dbkBane = targetAddress.dbkBane;                                  orgAddress.dbkBane = targetAddress.dbkBane;
502                                                                    
503                                  /* Sådan gør den gamle service */                                  /* Sådan gør den gamle service */
504                                  orgAddress.kommunekode = targetAddress.kommunekode;                                  /* 20150520 THN- hvis vi bibeholder de originale kommune+vejkoder kan vi bruge DAVID til join i databasen*/
505                                  orgAddress.vejkode = targetAddress.vejkode;                                  //orgAddress.kommunekode = targetAddress.kommunekode;
506                                    //orgAddress.vejkode = targetAddress.vejkode;
507                                    
508                                                                    
509                                  orgAddress.distributor = targetAddress.distributor;                                  orgAddress.distributor = targetAddress.distributor;
510                          }                          }
511                  }                  }
512                                    
513                  // nu skal vi ikke bruge idAddressMap længere                  // cleanup inden stage 4
514                  idAddressMap = null;                  idAddressMap = null;
515                    ruteHelper = null;
516                    korelisteHelper = null;
517                                    
518                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
519                  long start4 = System.currentTimeMillis();                  long start4 = System.currentTimeMillis();
520                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
521                  System.out.println("Build -- stage 4 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
522                                    
523                  Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();                  Map<Short,HundredePctBean> hundredePct = db.get100PctList();
524                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
525                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                          
                                 continue;  
                         }  
526                                                    
527                          if (addr.distributor != null && addr.distributor.equals("LUKKET")) {                          if (addr.distributor != null && addr.distributor.equals("LUKKET")) {
528                                  continue;                                  continue;
529                          }                          }                                              
530                                                    
531                                                    
532                          HundredePctBean bean = hundredePct.get(addr.postnr);                          HundredePctBean bean = hundredePct.get(addr.postnr);
# Line 346  public class AddressSearch { Line 534  public class AddressSearch {
534                                  continue;                                  continue;
535                          }                          }
536                                                    
537                          addr.daekningsType = DaekningsType.DAEKNING_100PCT;                          short modifyCounter = 0;
538                          addr.rute = bean.rute;                          modifyCounter += update100PctRouting(bean, addr.routingMandag);
539                          addr.koreliste = bean.koreliste;                          modifyCounter += update100PctRouting(bean, addr.routingTirsdag);
540                          addr.dbkBane = bean.dbkBane;                          modifyCounter += update100PctRouting(bean, addr.routingOnsdag);
541                          addr.distributor = bean.distributor;                          modifyCounter += update100PctRouting(bean, addr.routingTorsdag);
542                            modifyCounter += update100PctRouting(bean, addr.routingFredag);
543                            modifyCounter += update100PctRouting(bean, addr.routingLordag);
544                            modifyCounter += update100PctRouting(bean, addr.routingSondag);
545                            
546                            
547                            if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET  && modifyCounter>0) {                            
548                                    addr.daekningsType = DaekningsType.DAEKNING_100PCT;
549                                    addr.dbkBane = bean.dbkBane;
550                                    addr.distributor = bean.distributor;                            
551                            }
552                            
553                            
554    
555                  }                  }
556                                    
557                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
558                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
559                  System.out.println("Build, stage3 elapsed: " + (stop-start4) );                  System.out.println("Build, stage4 elapsed: " + (stop-start4) );
560                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
561                                                                    
562                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
# Line 367  public class AddressSearch { Line 568  public class AddressSearch {
568                                  stats.extendedCount++;                                  stats.extendedCount++;
569                                  break;                                  break;
570                          case DAEKNING_100PCT:                          case DAEKNING_100PCT:
571                                    hundredePctAdresser.add(addr);
572                                  stats.hundredePctCount++;                                  stats.hundredePctCount++;
573                                  break;                                  break;
574                          default:                          default:
575                                    ikkeDaekkedeAdresser.add(addr);
576                                  stats.ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
577                          }                          }
578                  }                                }              
579                    stats.totalCount = alleAdresser.size();
580                                    
581                    ikkeDaekkedeAdresser.trimToSize();
582                    hundredePctAdresser.trimToSize();
583                    Collections.sort( ikkeDaekkedeAdresser ); //Bruger Comparable interfacet
584                    Collections.sort( hundredePctAdresser );
585    
586                                    
587                  stats.elapsed = stop-start1;                              stats.elapsed = stop-start1;            
588                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );                  stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
589                                    
590                    System.out.println("Build: totalCount: " + stats.totalCount);
591                  System.out.println("Build: direkteCount: " + stats.direkteCount);                  System.out.println("Build: direkteCount: " + stats.direkteCount);
592                  System.out.println("Build: extendedCount: " + stats.extendedCount);                  System.out.println("Build: extendedCount: " + stats.extendedCount);
593                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
# Line 388  public class AddressSearch { Line 598  public class AddressSearch {
598                                    
599          }          }
600                    
601            public short update100PctRouting(HundredePctBean bean, RoutingInfo routing) {
602                    if (routing.rute == null) {
603                            routing.rute = bean.rute;
604                            routing.koreliste = bean.koreliste;
605                            return 1;
606                    } else {
607                            return 0;
608                    }
609            }
610            
611          public DataStatisticsBean getStatistics() {          public DataStatisticsBean getStatistics() {
612                  return stats;                  return stats;
613          }          }
614                    
615            public DatabaseLayer getDatabaseLayer() {
616                    return db;
617            }
618            
619          public void clear() {          public void clear() {
620                  searchPostnrVejnavnGadeid.clear();                  searchPostnrVejnavnGadeid.clear();
621                  searchGadeidentAdresser.clear();                  searchGadeidentAdresser.clear();
                 alleAdresser.clear();  
622                  helperCache.clear();                  helperCache.clear();
623          }          }
624                    
625                    
626          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, RoutingInfo targetRoute) {
627                    if (targetRoute.rute == null) { //hvis targetAdress.rute er null så er adressen ikke dækket alligevel
628                            return null;
629                    }
630    
631                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
632                  switch( eb.transport) {                  switch( eb.transport) {
633                  case "cykel":                  case "cykel":
634                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
635                                  return "." + targetAddress.rute;                                  return "." + targetRoute.rute;
636                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 0.501) {
637                                  return ".." + targetAddress.rute;                                  return ".." + targetRoute.rute;
638                          } else if (eb.afstand < 0.701) {                          } else if (eb.afstand < 0.701) {
639                                  return "..." + targetAddress.rute;                                  return "..." + targetRoute.rute;
640                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 1.001) {
641                                  return "...." + targetAddress.rute;                                  return "...." + targetRoute.rute;
642                          }                          }
643                          break;                                            break;                  
644                  case "scooter":                  case "scooter":
645                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
646                                  return "." + targetAddress.rute;                                  return "." + targetRoute.rute;
647                          } else if (eb.afstand < 0.801) {                          } else if (eb.afstand < 0.801) {
648                                  return ".." + targetAddress.rute;                                  return ".." + targetRoute.rute;
649                          } else if (eb.afstand < 1.201) {                          } else if (eb.afstand < 1.201) {
650                                  return "..." + targetAddress.rute;                                  return "..." + targetRoute.rute;
651                          } else if (eb.afstand < 2.101) {                          } else if (eb.afstand < 2.101) {
652                                  return "...." + targetAddress.rute;                                  return "...." + targetRoute.rute;
653                          }                          }
654                          break;                                                    break;                          
655                  case "bil":                  case "bil":
656                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
657                                  return "." + targetAddress.rute;                                  return "." + targetRoute.rute;
658                          } else if (eb.afstand < 1.001) {                          } else if (eb.afstand < 1.001) {
659                                  return ".." + targetAddress.rute;                                  return ".." + targetRoute.rute;
660                          } else if (eb.afstand < 1.601) {                          } else if (eb.afstand < 1.601) {
661                                  return "..." + targetAddress.rute;                                  return "..." + targetRoute.rute;
662                          } else if (eb.afstand < 2.601) {                          } else if (eb.afstand < 2.601) {
663                                  return "...." + targetAddress.rute;                                  return "...." + targetRoute.rute;
664                          }                          }
665                          break;                          break;
666                    default:
667                            System.out.println("Ukendt transport type: " + eb );
668                  }                                }              
669                  return null;                  return null;
670          }          }
671                    
672          public List<Address> getNonCoveredAddresses() {          public List<Address> getNonCoveredAddresses() {
673                  List<Address> result = new ArrayList<Address>(60000);                  return ikkeDaekkedeAdresser;
674                  for (Address a : alleAdresser) {          }
675                          if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {          
676                                  result.add(a);          public List<Address> get100PctAddresses() {
677                          }                  return hundredePctAdresser;
                 }  
                 Collections.sort(result );  
                 return result;  
678          }          }
679                    
680          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
681          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, RoutingInfo targetRoute) {
682                    if (targetRoute.rute == null) { //hvis targetAdress.rute er null så er adressen ikke dækket alligevel
683                            return null;
684                    }
685                    
686                  String inject;                  String inject;
687                  if (eb.afstand <= 0.500) {                  if (eb.afstand <= 0.500) {
688                          inject = ".";                          inject = ".";
689                  } else {                  } else {
690                          inject = "..";                          inject = "..";
691                  }                  }
692                  return AddressUtils.injectIntoBk(targetAddress.koreliste, inject);                  return AddressUtils.injectIntoBk(targetRoute.koreliste, inject);
693          }          }
694                    
695          private Set<String> findVejAliaser(String vejnavn) {          
696                  vejnavn = vejnavn.toLowerCase();          public Set<Short> getPostnumre() {
697                  HashSet<String> aliasSet = new HashSet<String>();                  return new TreeSet<Short>( searchPostnrVejnavnGadeid.keySet() );
698                  aliasSet.add(vejnavn);          }
699                            
700                  aliasSet.add(vejnavn.replace("u", "ü") );          public Set<Entry<String,Integer>> getVejnavne(short postnr) {
701                  aliasSet.add(vejnavn.replace("ü", "u") );                  Map<String,Integer> map = searchPostnrVejnavnGadeid.get(postnr);
                   
                 aliasSet.add(vejnavn.replace("alle", "allé") );  
                 aliasSet.add(vejnavn.replace("allé", "alle") );                  
                   
                 aliasSet.add(vejnavn.replace("dronningens", "dr") );  
                 aliasSet.add(vejnavn.replace("dr.", "dronningens") );  
                 aliasSet.add(vejnavn.replace("dr ", "dronningens") );  
                   
                 aliasSet.add(vejnavn.replace("dronning", "dr") );  
                 aliasSet.add(vejnavn.replace("dr.", "dronning") );  
                 aliasSet.add(vejnavn.replace("dr ", "dronning") );  
                   
                 aliasSet.add(vejnavn.replace("kng", "kongen") );  
                 aliasSet.add(vejnavn.replace("kongen", "kng") );  
                   
                 aliasSet.add(vejnavn.replace("kvt", "kvarter") );  
                 aliasSet.add(vejnavn.replace("kvarter", "kvt") );  
                   
                 aliasSet.add(vejnavn.replace("gl", "gammel") );  
                 aliasSet.add(vejnavn.replace("gammel", "gl") );  
                   
                 aliasSet.add(vejnavn.replace("lille", "ll") );  
                 aliasSet.add(vejnavn.replace("ll ", "lille") );  
                 aliasSet.add(vejnavn.replace("ll.", "lille") );  
                   
                 aliasSet.add(vejnavn.replace("store", "st") );  
                 aliasSet.add(vejnavn.replace("st ", "store") );  
                 aliasSet.add(vejnavn.replace("st.", "store") );  
                   
                 aliasSet.add(vejnavn.replace("søndre", "sdr") );  
                 aliasSet.add(vejnavn.replace("sdr", "søndre") );  
   
702                                    
703                  aliasSet.add(vejnavn.replace("nørre", "nr") );                  TreeMap<String,Integer> newMap = new TreeMap<String,Integer>( map );//Lav et nyt TreeMap for at sikre sortering
                 aliasSet.add(vejnavn.replace("nr", "nørre") );  
704                                    
705                  aliasSet.add(vejnavn.replace("nordre", "ndr") );                  return newMap.entrySet();
706                  aliasSet.add(vejnavn.replace("ndr", "nordre") );          }
707            
708            public Set<String> getHusnumre(int gadeid) {
709                                                                    
710                  aliasSet.add(vejnavn.replace("sankt", "skt") );                  Map<Short, List<Address>> gade = searchGadeidentAdresser.get(gadeid);
                 aliasSet.add(vejnavn.replace("sankt", "sct") );  
                 aliasSet.add(vejnavn.replace("skt", "sankt") );  
                   
                 aliasSet.add(vejnavn.replace("skt", "sct") );  
                 aliasSet.add(vejnavn.replace("sct", "skt") );  
                   
                   
                 // fornavn forkortelser  
                 aliasSet.add(vejnavn.replace("john", "j") );  
                 aliasSet.add(vejnavn.replace("thomas", "th") );  
                 aliasSet.add(vejnavn.replace("thorvald", "th") );  
   
                   
                 // Romertal  
                 aliasSet.add(vejnavn.replace("1", "i") );  
                 aliasSet.add(vejnavn.replace("i", "1") );  
                   
                 aliasSet.add(vejnavn.replace("2", "ii") );  
                 aliasSet.add(vejnavn.replace("ii", "2") );  
                   
                 aliasSet.add(vejnavn.replace("3", "iii") );  
                 aliasSet.add(vejnavn.replace("iii", "3") );  
                   
                 aliasSet.add(vejnavn.replace("4", "iv") );  
                 aliasSet.add(vejnavn.replace("iv", "4") );  
                   
                 aliasSet.add(vejnavn.replace("5", "v") );  
                 aliasSet.add(vejnavn.replace("v", "5") );  
                   
                 aliasSet.add(vejnavn.replace("6", "vi") );  
                 aliasSet.add(vejnavn.replace("vi", "6") );  
                   
                 aliasSet.add(vejnavn.replace("7", "vii") );  
                 aliasSet.add(vejnavn.replace("vii", "7") );  
                   
                 aliasSet.add(vejnavn.replace("8", "viii") );  
                 aliasSet.add(vejnavn.replace("viii", "8") );  
                   
                 aliasSet.add(vejnavn.replace("9", "ix") );  
                 aliasSet.add(vejnavn.replace("ix", "9") );  
                   
                 aliasSet.add(vejnavn.replace("10", "x") );  
                 aliasSet.add(vejnavn.replace("x", "10") );                
   
                   
                 //alternative måder at stave vej/gade/alle  
                 aliasSet.add(vejnavn.replace("vej", "ve") );  
                 aliasSet.add(vejnavn.replace("vej", "vj") );  
                 aliasSet.add(vejnavn.replace("vej", "v") );  
                 aliasSet.add(vejnavn.replace("vej", "vejen") );  
                 aliasSet.add(vejnavn.replace("vejen", "vej") );  
                   
                 aliasSet.add(vejnavn.replace("alle", "all") );  
                 aliasSet.add(vejnavn.replace("allé", "all") );  
                 aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo  
                 aliasSet.add(vejnavn.replace("allé", "allú") );  
                   
                 aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo  
                   
                 aliasSet.add(vejnavn.replace("plads", "pl") );  
                 aliasSet.add(vejnavn.replace("vænget", "vænge") );  
711                                    
712                    Set<String> set = new TreeSet<String>( new NaturalOrderComparator<String>() );
713                    for(List<Address> litraList : gade.values()) {
714                            for (Address a: litraList) {
715                                    set.add( a.husnr + a.husnrbogstav );                            
716                            }
717                    }
718                                    
719                  // Opbyg æøå varianter over alle fundne aliaser                  return set;
720            }
721            
722            public Address getAdresse(int gadeid, String husnrStr) {
723                    short husnr = Short.parseShort( husnrStr.replaceAll("[^\\d]","") );
724                    String litra =  husnrStr.replaceAll("\\d", "");        
725                                    
726                  @SuppressWarnings("unchecked")                  Map<Short,List<Address>> gade = searchGadeidentAdresser.get(gadeid);
727                  HashSet<String> variants = (HashSet<String>) aliasSet.clone();                  List<Address> litraList = gade.get(husnr);
728                                    
729                  for (String vVejnavn : variants) {                                                        for(Address addr : litraList) {
730                          // danske tegn 1                          if (addr.husnrbogstav.equals(litra)) {
731                          aliasSet.add( vVejnavn.replace("æ", "ae") );                                  return addr;
732                          aliasSet.add( vVejnavn.replace("ø", "oe") );                          }
                         aliasSet.add( vVejnavn.replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ") );  
                         aliasSet.add( vVejnavn.replace("oe", "ø") );  
                         aliasSet.add( vVejnavn.replace("aa", "å") );  
                           
                         //danske tegn 2  
                         aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );  
                         aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ø", "ae").replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );  
                         aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );  
                           
                         //danske tegn 3  
                         aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );  
                         aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );  
733                  }                  }
734                                    
735                  return aliasSet;                  return null;
736                    
737          }          }
738                            
           
739  }  }
Legend:
Removed from v.2411  
changed lines
  Added in v.2968
  ViewVC Help
Powered by ViewVC 1.1.20