/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java revision 2312 by torben, Mon Feb 16 14:31:05 2015 UTC dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/AddressSearch.java revision 2821 by torben, Tue Jan 19 10:02:51 2016 UTC
# Line 1  Line 1 
1  package dk.daoas.daoadresseservice;  package dk.daoas.daoadresseservice;
2    
3  import java.sql.SQLException;  import java.sql.SQLException;
4    import java.text.SimpleDateFormat;
5    import java.util.ArrayList;
6    import java.util.Collections;
7    import java.util.Date;
8  import java.util.HashMap;  import java.util.HashMap;
 import java.util.HashSet;  
 import java.util.Iterator;  
9  import java.util.List;  import java.util.List;
10  import java.util.Map;  import java.util.Map;
11    import java.util.Map.Entry;
12  import java.util.Set;  import java.util.Set;
13    import java.util.TreeMap;
14    import java.util.TreeSet;
15  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
16    
17  import dk.daoas.daoadresseservice.AddressUtils.SplitResult;  import org.apache.commons.lang3.StringUtils;
18    
19    import dk.daoas.daoadresseservice.admin.ServiceConfig;
20  import dk.daoas.daoadresseservice.beans.Address;  import dk.daoas.daoadresseservice.beans.Address;
21    import dk.daoas.daoadresseservice.beans.AliasBean;
22    import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
23  import dk.daoas.daoadresseservice.beans.ExtendedBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
24  import dk.daoas.daoadresseservice.beans.HundredePctBean;  import dk.daoas.daoadresseservice.beans.HundredePctBean;
25    import dk.daoas.daoadresseservice.beans.SearchRequest;
26  import dk.daoas.daoadresseservice.beans.SearchResult;  import dk.daoas.daoadresseservice.beans.SearchResult;
27  import dk.daoas.daoadresseservice.beans.SearchResult.Status;  import dk.daoas.daoadresseservice.beans.SearchResult.Status;
28  import dk.daoas.daoadresseservice.db.DatabaseLayer;  import dk.daoas.daoadresseservice.db.DatabaseLayer;
29    import dk.daoas.daoadresseservice.util.DaoUtils;
30    import dk.daoas.daoadresseservice.util.DeduplicateHelper;
31    import dk.daoas.daoadresseservice.util.NaturalOrderComparator;
32    import dk.daoas.daoadresseservice.util.NearestShortTreeMap;
33    
34  public class AdressSearch {  public class AddressSearch {
35    
36          Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;                private Map<Short, Map<String,Integer>> searchPostnrVejnavnGadeid;      
37          Map<Long,  Map<String,Address>> searchGadeidentAdresser;          private Map<Integer,  Map<Short, Map<String,Address>>> searchGadeidentAdresser; // Gadeident -> husnrumre -> litra
38            
39    
40          List<Address> alleAdresser;          private List<Address> alleAdresser;
41            
42            private Map<String,Integer> helperCache;
43            
44            private DataStatisticsBean stats = new DataStatisticsBean();
45            
46            private DatabaseLayer db;
47            private ServiceConfig config;
48            
49                    
50          Map<String,Long> helperCache;          StreetnameHelper levenshteinHelper;
51            StreetnameHelper metaphoneHelper;
52            StreetnameHelper googleHelper;
53            StreetnameHelper osmHelper;
54                    
55                    
56          Map<Integer,HundredePctBean> hundredePct;          public AddressSearch(DatabaseLayer db, ServiceConfig config) {
57                    
58                    this.db = db;
59                    this.config = config;
60                    
61                    levenshteinHelper = new LevenshteinStreetnameHelper( this );
62                    metaphoneHelper = new DoubleMetaphoneStreetnameHelper(config);
63                    googleHelper = new GoogleStreetnameHelper( config );
64                    osmHelper = new OSMStreetnameHelper( config );
65            }
66                    
67            public Address getAddressSafe(int gadeid, short husnr, String litra)  throws Exception {
68                    
69                    Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeid);
70                    
71                    if (gade == null) {
72                            throw new Exception("GadeID ikke fundet");
73                    }
74                    
75                    Map<String,Address> litraList = gade.get(husnr);
76                    
77                    Address addr = litraList.get(litra);
78                    
79                    if (addr == null) {
80                            throw new Exception("Adresse ikke ikke fundet");
81                    }
82                                    
83                    return addr;
84            }
85                    
86    
87          public SearchResult search(String postnrStr, String adresse)  {          public SearchResult search(String postnrStr, String adresse)  {
88                    return search(postnrStr, adresse, false);
89            }
90            
91            
92            public SearchResult search(String postnrStr, String adresse, boolean naermesteHusnr)  {
93                    
94                    postnrStr = postnrStr.trim();
95                    adresse = adresse.trim();
96                    
97                    
98                    SearchRequest request = new SearchRequest();
99                    SearchResult result = new SearchResult();
100                                    
                 int postnr=0;  
                 boolean google = false;  
                 boolean osm = false;  
                 String helperSearchKey = "";  
101                                    
102                  try {                  try {
103                          postnr = Integer.parseInt(postnrStr);                          request.postnr = Short.parseShort(postnrStr);
104                  } catch (Exception E) {                  } catch (Exception E) {
105                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                          result.status = Status.ERROR_UNKNOWN_POSTAL;
106                            return result;
107                  }                                }              
108                                    
                 Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);                      
109                                    
110                  if (postnrVeje == null) {                  request.streetNames = searchPostnrVejnavnGadeid.get(request.postnr);                    
111                          return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);                  
112                    if (request.streetNames == null) {
113                            result.status = Status.ERROR_UNKNOWN_POSTAL;
114                            return result;
115                    }
116                    
117                    
118                    result.splitResult = AddressUtils.splitAdresse(adresse);
119                    request.vejnavn = result.splitResult.vej;
120                    
121                                                    
122                    
123                    if (result.splitResult.husnr.length() == 0) {
124                            result.status = Status.ERROR_MISSING_HOUSENUMBER;
125                            return result;
126                  }                  }
127                                    
128                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
129                    
130    
131                    if (result.vasketVejnavn.indexOf("pakkebo") > -1
132                                    || result.vasketVejnavn.indexOf("pakkepost") > -1
133                                    || result.vasketVejnavn.indexOf("postbo") > -1   // postbox/postboks
134                                    || result.vasketVejnavn.indexOf("døgnpost") > -1
135                                    || result.vasketVejnavn.indexOf("døgnbo") > -1 // døgnbox // døgnboks
136                                    || result.vasketVejnavn.equals("id")
137                                    ) {
138                            result.status = Status.ERROR_POSTBOX;
139                            return result;                  
140                    }
141                    
142                    // LookupStreetname er en indkapsling af alm + levenstein + google + osm
143                    Integer gadeident = lookupStretname(request, result, true);
144                    
145                    
146                    /*
147                     * Hvis der ikke er direkte hits, prøver vi at skære ord af vejnavn
148                     *
149                     * <strike>Denne sektion er MEGET experimental da den øger antallet af kald til google/OSM væsentligt</strike>*/
150                    if (gadeident == null) {
151                            final int MAX_TRIES = 4;
152                            
153                            String vejnavnParts[] = request.vejnavn.split(" ");
154                            
155                            for (int i=1; i<=MAX_TRIES && i<vejnavnParts.length; i++) {
156                                    String subVejnavn = DaoUtils.joinHelper(vejnavnParts, i);
157                                    
158                                    request.vejnavn = subVejnavn;
159                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
160                                    
161                                    gadeident = lookupStretname(request, result, false);//prøv opslag MEN UDEN GOOGLE/OSM !!!
162                                    
163                                    //hvis vi fandt vejen ud fra substrengen
164                                    if (gadeident != null) {
165                                            break;
166                                    }                      
167                                    
168                                    //hvis vi ikke fandt kopierer vi vejnavn fra split igen
169                                    request.vejnavn = result.splitResult.vej;
170                                    result.vasketVejnavn = AddressUtils.vaskVejnavn( request.vejnavn );
171                            }                      
172                    }
173                                    
174                  SplitResult split = AddressUtils.splitAdresse(adresse);  
                 String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );                            
175                                    
176                  if (split.husnr.length() == 0) {                  if (gadeident == null) {                        
177                          return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);                                                result.status = Status.ERROR_UNKNOWN_STREETNAME;
178                            return result;
179                  }                  }
180                                    
181                  Long gadeident =  postnrVeje.get(vasketVejnavn);                  result.gadeident = gadeident;
182                                    
183                                    
184                  if ( gadeident == null) {                  Map<Short, Map<String,Address>> gade = searchGadeidentAdresser.get(gadeident);
185                          helperSearchKey = "" + postnr + "/" + vasketVejnavn;                  if (gade == null) { //Denne søgning må ikke fejle
186                          gadeident = helperCache.get(helperSearchKey);                          result.status = Status.ERROR_INTERNAL;
187                            return result;                  
188                  }                  }
189                                    
190                                    
191                  if ( gadeident == null) {                  //Kunne evt klares med Iterables.get fra Guava/Collections
192                          String googleVej = GeocodeHelper.googleHelper(postnr, split.vej );                  Address firstAddress = gade.values().iterator().next().values().iterator().next(); //Første husnr -> første litra
193                          google = true;                  result.vej = firstAddress.vejnavn;
194                    
195                    short husnrSearch = Short.parseShort(result.splitResult.husnr );                
196                    Map<String,Address> litraList = gade.get(husnrSearch);
197                    
198    
199                    if (litraList == null) { //Husnr ikke fundet
200                                                    
201                          if (googleVej != null) {                          if (naermesteHusnr) {
202                                  String googleVasket = AddressUtils.vaskVejnavn( googleVej );                                  TreeMap<Short, Map<String,Address>> gadeTreeMap = (TreeMap<Short, Map<String,Address>>) gade;
203                                  gadeident =  postnrVeje.get(googleVasket);                                  result.anvendtHusnr = NearestShortTreeMap.getNearestKey(husnrSearch, gadeTreeMap);
204                                                                    
205                                  if (gadeident != null) {                                  result.nearestHusnr = true;
206                                          helperCache.put(helperSearchKey, gadeident);                                  litraList = gade.get(result.anvendtHusnr);
207                                  }                                  
208                                    
209                            } else {
210                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
211                                    return result;  
212                          }                          }
213                  }                  }
214                                    
215                    Address addr = litraList.get( result.splitResult.litra );
216                    
217                    if (addr == null) { //litra ikke fundet
218                            if (config.nearestLitra == true || naermesteHusnr == true) {
219                                    result.nearestLitra = true;
220                                    addr = litraList.values().iterator().next();                            
221                            } else {
222                                    //husnr fundet men litra blev ikke fundet
223                                    result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT;
224                                    return result;  
225                            }                      
226                    }
227                    
228                    result.address = addr;
229                    
230                    
231                    if ( StringUtils.equals(addr.distributor, "LUKKET") ) {                
232                            result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
233                            return result;
234                    }                              
235                    
236                    if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
237                            result.status = Status.STATUS_NOT_COVERED;
238                            return result;
239                    }
240    
241                    
242                    result.status = Status.STATUS_OK;
243    
244                    return result;
245            }
246    
247    
248            private Integer lookupStretname(SearchRequest request, SearchResult result, boolean useExternal) {
249                    String helperSearchKey = "";
250                    
251                    Integer gadeident =  request.streetNames.get(result.vasketVejnavn);
252                    
253                    
254                  if ( gadeident == null) {                  if ( gadeident == null) {
255                          String osmVej = GeocodeHelper.openstreetmapHelper(postnr, split.vej );                          helperSearchKey = "" + request.postnr + "/" + result.vasketVejnavn;
256                          osm = true;                          gadeident = helperCache.get(helperSearchKey);
                           
                         if (osmVej != null) {  
                                 String osmVasket = AddressUtils.vaskVejnavn( osmVej );  
                                 gadeident =  postnrVeje.get(osmVasket);  
                                   
                                 if (gadeident != null) {  
                                         helperCache.put(helperSearchKey, gadeident);  
                                 }  
                         }  
257                  }                  }
258                                    
259                  if (gadeident == null) {                  if (gadeident == null) {
260                          return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);                          String vej = levenshteinHelper.proposeStreetName(request, result);
261                            if (vej != null) {
262                                    gadeident =  request.streetNames.get(vej);
263                            }
264                  }                  }
265                                    
266                  Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle                  if (gadeident == null) {
267                            String vej = metaphoneHelper.proposeStreetName(request, result);
268                            if (vej != null) {
269                                    gadeident =  request.streetNames.get(vej);
270                            }
271                    }
272                                    
273                                    
274                  String husnrSearch = "" + split.husnr + split.litra;                  // Brug OpenStreetMap før vi prøver google
275                  Address addr = gade.get(husnrSearch);                  // For google har en request limit, det har OSM ikke!
276                    if ( gadeident == null && useExternal) {
277                  if (addr == null) {                          String vej = osmHelper.proposeStreetName(request, result);              
278                          return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);                          gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
279                  }                  }
280                                    
281                  if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {                  if ( gadeident == null && useExternal) {
282                          return new SearchResult(Status.STATUS_NOT_COVERED);                          String vej = googleHelper.proposeStreetName(request, result);          
283                            gadeident = helperWrapper(vej, request.streetNames, helperSearchKey);
284                  }                  }
285                    return gadeident;
286            }
287            
288            private Integer helperWrapper(String vej, Map<String,Integer> postnrVeje, String helperSearchKey) {
289                    if (vej == null)
290                            return null;
291                                    
292                  if (addr.distributor.equals("LUKKET")) {                  String vejVasket = AddressUtils.vaskVejnavn( vej );
293                          return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?                  Integer gadeident =  postnrVeje.get(vejVasket);
                 }                
294                                    
295                  SearchResult res = new SearchResult(addr);                  if (gadeident != null) {
296                  res.google = google;                          helperCache.put(helperSearchKey, gadeident);
297                  res.osm = osm;                  }
298                  return res;                  return gadeident;
299                    
300            }
301            
302            public Map<String,Integer> getStretsByPostal(short zip) {
303                    return searchPostnrVejnavnGadeid.get(zip);
304          }          }
305    
306                    
307                    
308          public void buildSearchStructures() throws SQLException{          public void buildSearchStructures() throws SQLException{
309                  searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();                  searchPostnrVejnavnGadeid = new HashMap<Short, Map<String,Integer>>();
310                  searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();                  searchGadeidentAdresser = new HashMap<Integer,  Map<Short, Map<String,Address>>>();
311                  helperCache = new ConcurrentHashMap<String,Long>();                  helperCache = new ConcurrentHashMap<String,Integer>();
312                    
313                    // //////////////////////
314                    // Start stage1
315                                    
316                  long start1 = System.currentTimeMillis();                  long start1 = System.currentTimeMillis();
317                  System.out.println("Build -- stage 1");                  System.out.println("Build -- stage 1");
318                                    
319                  alleAdresser = DatabaseLayer.getAllAdresses();                  alleAdresser = db.getAllAdresses();
320                                    
321                                    
322                  /* Mapper mellem db Row ID og adresse noden */                  /* Mapper mellem db Row ID og adresse noden - skal bruges i stage3*/
323                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );                  Map<Integer,Address> idAddressMap = new HashMap<Integer,Address>( alleAdresser.size() );
324                                    
325                    
326                    DeduplicateHelper<Short> shortHelper = new DeduplicateHelper<Short>();
327                    DeduplicateHelper<Integer> intHelper = new DeduplicateHelper<Integer>();
328                    
329                    AliasGenerator aliasGenerator = new AliasGenerator();
330                    
331                    
332                  for (Address a : alleAdresser) {                  for (Address a : alleAdresser) {
333                          idAddressMap.put(a.id, a);                          idAddressMap.put(a.id, a);
334                                                    
335                          Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(a.postnr);                                    Short postnr = shortHelper.getInstance(a.postnr);
336                            
337                            Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);        
338                                                    
339                          if (postnrVeje == null) {                          if (postnrVeje == null) {
340                                  postnrVeje = new ConcurrentHashMap<String,Long>();                                  postnrVeje = new HashMap<String,Integer>(10240); //lige nu indeholder den største 9500 entries
341                                  searchPostnrVejnavnGadeid.put(a.postnr, postnrVeje);                                  searchPostnrVejnavnGadeid.put(postnr, postnrVeje);
342                          }                          }
343                                    
344                                                    
345                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);                          String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
346                          Long gadeident = postnrVeje.get(vasketVejnavn);                          Integer gadeident = postnrVeje.get(vasketVejnavn);
347                          if (gadeident == null) {                          if (gadeident == null) {                                
348                                  //postnrVeje.put(vasketVejnavn, a.gadeid);                                  //postnrVeje.put(vasketVejnavn, a.gadeid);
349                                                                    
350                                  Set<String> aliaser = findVejAliaser(a.vejnavn);                                  gadeident = intHelper.getInstance( a.gadeid );
351                                  for(String alias : aliaser) {                                  
352                                          String vasketAlias = AddressUtils.vaskVejnavn(alias);                                  Set<String> aliaser = aliasGenerator.findVejAliaser(a.vejnavn);
353                                          postnrVeje.put(vasketAlias, a.gadeid);                                    for(String alias : aliaser) {                                  
354                                            postnrVeje.put(alias, gadeident);      
355                                  }                                  }
356                                                                    
357                          }                          }
358                                                    
359                          Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid);                          
360                            Map<Short, Map<String,Address>> gade =  searchGadeidentAdresser.get(gadeident);
361                          if (gade == null) {                          if (gade == null) {
362                                  gade = new HashMap<String, Address>();                                  gade = new TreeMap<Short, Map<String,Address>>();
363                                  searchGadeidentAdresser.put(a.gadeid, gade);                                  searchGadeidentAdresser.put(gadeident, gade);
364                          }                          }
365                          String husnrSearch = "" + a.husnr + a.husnrbogstav;                          
366                          gade.put(husnrSearch, a);                                                Map<String,Address> litraList = gade.get(a.husnr);
367                            if (litraList == null) {
368                                    litraList = new HashMap<String,Address>();
369                                    gade.put(a.husnr, litraList);
370                            }
371                            
372                            litraList.put(a.husnrbogstav, a);                      
373                  }                  }
374                                    
375                                    
376                    aliasGenerator.clear();  //frigiv hukommelse inden stage2
377                    aliasGenerator = null;
378                    shortHelper.clear();
379                    shortHelper = null;
380                    intHelper.clear();
381                    intHelper = null;
382                                    
383    
384                  ////////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////////
385                  long start2 = System.currentTimeMillis();                  long start2 = System.currentTimeMillis();
386                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );                  System.out.println("Build, stage1 elapsed: " + (start2-start1) );
387                  System.out.println("Build -- stage 2 udvidet dækning");                  System.out.println("Build -- stage 2 alias tabel");
388                    
389                    int vaskCount = 0;
390                    List<AliasBean> aliasList = db.getAliasList();
391                    for (AliasBean alias : aliasList) {
392                            Map<String,Integer> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
393                            
394                            if (postnrVeje == null) {
395                                    //Burde ikke kunne ske - men better safe than sorry
396                                    continue;
397                            }
398                            
399                            String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
400                            String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
401                            
402                            Integer gadeident = postnrVeje.get(vasketVej);
403                            if (gadeident == null) {
404                                    //Kender ikke den oprindelige vej
405                                    continue;
406                            }
407                            
408                            Integer aliasIdent = postnrVeje.get(vasketAlias);
409                            
410                            if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
411                                    postnrVeje.put(vasketAlias, gadeident);
412                                    vaskCount++;
413                            }
414                            
415                    }
416                    System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
417                    
418                    aliasList.clear();//cleanup inden stage3
419                    
420                    
421                    ////////////////////////////////////////////////////////////////////////////////////////
422                    long start3 = System.currentTimeMillis();
423                    System.out.println("Build, stage2 elapsed: " + (start3-start2) );
424                    System.out.println("Build -- stage 3 udvidet dækning");
425                    
426                    DeduplicateHelper<String> ruteHelper = new DeduplicateHelper<String>();
427                    DeduplicateHelper<String> korelisteHelper = new DeduplicateHelper<String>();
428                                    
429                  List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();                  List<ExtendedBean> extDao = db.getExtendedAdresslist();
430                  for (ExtendedBean eb : extDao) {                  for (ExtendedBean eb : extDao) {
431                                                    
432                          Address orgAddress = idAddressMap.get(eb.orgId);                                                  Address orgAddress = idAddressMap.get(eb.orgId);                        
433                          if (orgAddress == null)                          if (orgAddress == null)
434                                  continue;                                  continue;
435                                                    
436                            if (orgAddress.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {
437                                    //kan være at adressen er blevet markeret dækket og - find-nærmeste data ikke er opdateret i mellemtiden
438                                    continue;
439                            }
440                            
441                          Address targetAddress = idAddressMap.get(eb.targetId);                          Address targetAddress = idAddressMap.get(eb.targetId);
442                          if (targetAddress == null)                          if (targetAddress == null) {
443                                  continue;                                  continue;
444                            }
445                                                    
446                          if (orgAddress.distributor != null && orgAddress.distributor.equals("LUKKET")) {                          
447                            if ( StringUtils.equals(orgAddress.distributor, "LUKKET") ) {
448                                  continue;                                  continue;
449                          }                                                }                      
450                                                    
451                          if (targetAddress.distributor.equals("LUKKET")) {                          
452                            
453                            if ( StringUtils.equals(targetAddress.distributor, "LUKKET") ) {
454                                  continue;                                  continue;
455                          }                          }
456                                                    
# Line 199  public class AdressSearch { Line 459  public class AdressSearch {
459    
460                          boolean covered = false;                          boolean covered = false;
461                          if (targetAddress.distributor.equals("DAO")) {                          if (targetAddress.distributor.equals("DAO")) {
462                                  orgAddress.rute = calculateExtendedDaoRoute(eb,orgAddress,targetAddress);                                                                orgAddress.ruteMandag = calculateExtendedDaoRoute(eb,orgAddress,targetAddress);
463                                  if (orgAddress.rute != null) {                                  orgAddress.ruteMandag = ruteHelper.getInstance(orgAddress.ruteMandag);
464                                          orgAddress.koreliste = targetAddress.koreliste;                                  
465                                    if (orgAddress.ruteMandag != null) {
466                                            orgAddress.korelisteMandag = targetAddress.korelisteMandag;
467                                          covered = true;                                          covered = true;
468                                  }                                  }
469                          }                          }
470                                                    
471                          if (targetAddress.distributor.equals("BK")) {                          if (targetAddress.distributor.equals("BK")) {
472                                  orgAddress.koreliste = calculateExtendedBkKoreliste(eb,orgAddress,targetAddress);                                                                orgAddress.korelisteMandag = calculateExtendedBkKoreliste(eb,orgAddress,targetAddress);
473                                  if (orgAddress.koreliste != null) {                                  orgAddress.korelisteMandag = korelisteHelper.getInstance(orgAddress.korelisteMandag);
474                                          orgAddress.rute = targetAddress.rute;                                  
475                                    if (orgAddress.korelisteMandag != null) {
476                                            orgAddress.ruteMandag = targetAddress.ruteMandag;
477                                          covered = true;                                          covered = true;
478                                  }                                  }
479                          }                          }
# Line 219  public class AdressSearch { Line 483  public class AdressSearch {
483                                  orgAddress.dbkBane = targetAddress.dbkBane;                                  orgAddress.dbkBane = targetAddress.dbkBane;
484                                                                    
485                                  /* Sådan gør den gamle service */                                  /* Sådan gør den gamle service */
486                                  orgAddress.kommunekode = targetAddress.kommunekode;                                  /* 20150520 THN- hvis vi bibeholder de originale kommune+vejkoder kan vi bruge DAVID til join i databasen*/
487                                  orgAddress.vejkode = targetAddress.vejkode;                                  //orgAddress.kommunekode = targetAddress.kommunekode;
488                                    //orgAddress.vejkode = targetAddress.vejkode;
489                                    
490                                                                    
491                                  orgAddress.distributor = targetAddress.distributor;                                  orgAddress.distributor = targetAddress.distributor;
492                          }                          }
493                  }                  }
494                                    
495                  // nu skal vi ikke bruge idAddressMap længere                  // cleanup inden stage 4
496                  idAddressMap = null;                  idAddressMap = null;
497                    ruteHelper = null;
498                    korelisteHelper = null;
499                                    
500                  //////////////////////////////////////////////////////////////////////////////////////                  //////////////////////////////////////////////////////////////////////////////////////
501                  long start3 = System.currentTimeMillis();                  long start4 = System.currentTimeMillis();
502                  System.out.println("Build, stage2 elapsed: " + (start3-start2) );                  System.out.println("Build, stage3 elapsed: " + (start4-start3) );
503                  System.out.println("Build -- stage 3 - 100pct");                  System.out.println("Build -- stage 4 - 100pct");
504                                    
505                  hundredePct = DatabaseLayer.get100PctList();                  Map<Short,HundredePctBean> hundredePct = db.get100PctList();
506                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
507                          if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                                                  if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {                        
508                                  continue;                                  continue;
# Line 251  public class AdressSearch { Line 519  public class AdressSearch {
519                          }                          }
520                                                    
521                          addr.daekningsType = DaekningsType.DAEKNING_100PCT;                          addr.daekningsType = DaekningsType.DAEKNING_100PCT;
522                          addr.rute = bean.rute;                          addr.ruteMandag = bean.rute;
523                          addr.koreliste = bean.koreliste;                          addr.korelisteMandag = bean.koreliste;
524                          addr.dbkBane = bean.dbkBane;                          addr.dbkBane = bean.dbkBane;
525                          addr.distributor = bean.distributor;                          addr.distributor = bean.distributor;
526                  }                  }
527                                    
528                  ////////////////////////////////////////////////////////////////////////////////////                  ////////////////////////////////////////////////////////////////////////////////////
529                  long stop = System.currentTimeMillis();                  long stop = System.currentTimeMillis();
530                  System.out.println("Build, stage3 elapsed: " + (stop-start3) );                  System.out.println("Build, stage4 elapsed: " + (stop-start4) );
531                  System.out.println("Build -- Gathering statistics");                  System.out.println("Build -- Gathering statistics");
532                                                    
                 int direkteCount = 0;  
                 int extendedCount = 0;  
                 int hundredePctCount = 0;  
                 int ikkeDaekketCount = 0;  
                   
533                  for (Address addr : alleAdresser) {                  for (Address addr : alleAdresser) {
534                          switch (addr.daekningsType) {                          switch (addr.daekningsType) {
535                          case DAEKNING_DIREKTE:                          case DAEKNING_DIREKTE:
536                                  direkteCount++;                                  stats.direkteCount++;
537                                  break;                                  break;
538                          case DAEKNING_UDVIDET:                          case DAEKNING_UDVIDET:
539                                  extendedCount++;                                  stats.extendedCount++;
540                                  break;                                  break;
541                          case DAEKNING_100PCT:                          case DAEKNING_100PCT:
542                                  hundredePctCount++;                                  stats.hundredePctCount++;
543                                  break;                                  break;
544                          default:                          default:
545                                  ikkeDaekketCount++;                                  stats.ikkeDaekketCount++;
546                          }                          }
547                  }                  }              
548                    stats.totalCount = alleAdresser.size();
549                    
550                    
551                    stats.elapsed = stop-start1;            
552                    stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
553                                    
554                  System.out.println("Build: direkteCount: " + direkteCount);                  System.out.println("Build: totalCount: " + stats.totalCount);
555                  System.out.println("Build: extendedCount: " + extendedCount);                  System.out.println("Build: direkteCount: " + stats.direkteCount);
556                  System.out.println("Build: hundredePctCount: " + hundredePctCount);                  System.out.println("Build: extendedCount: " + stats.extendedCount);
557                  System.out.println("Build: ikkeDaekketCount: " + ikkeDaekketCount);                  System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
558                    System.out.println("Build: ikkeDaekketCount: " + stats.ikkeDaekketCount);
559                                    
560                  System.out.println("Build: Total Elapsed: " + (stop-start1) );                  System.out.println("Build: Total Elapsed: " + (stop-start1) );
561                  System.out.println("Build Completed");                  System.out.println("Build Completed");
562                                    
563          }          }
564                    
565            public DataStatisticsBean getStatistics() {
566                    return stats;
567            }
568            
569            public DatabaseLayer getDatabaseLayer() {
570                    return db;
571            }
572            
573            public void clear() {
574                    searchPostnrVejnavnGadeid.clear();
575                    searchGadeidentAdresser.clear();
576                    alleAdresser.clear();
577                    helperCache.clear();
578            }
579            
580                    
581          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
582                    if (targetAddress.ruteMandag == null) { //hvis targetAdress.rute er null så er adressen ikke dækket alligevel
583                            return null;
584                    }
585    
586                  // ///////////////////////////////////////////////////////////////////                  // ///////////////////////////////////////////////////////////////////
587                  switch( eb.transport) {                  switch( eb.transport) {
588                  case "cykel":                  case "cykel":
589                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
590                                  return "." + targetAddress.rute;                                  return "." + targetAddress.ruteMandag;
591                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 0.501) {
592                                  return ".." + targetAddress.rute;                                  return ".." + targetAddress.ruteMandag;
593                          } else if (eb.afstand < 0.701) {                          } else if (eb.afstand < 0.701) {
594                                  return "..." + targetAddress.rute;                                  return "..." + targetAddress.ruteMandag;
595                          } else if (eb.afstand < 0.501) {                          } else if (eb.afstand < 1.001) {
596                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.ruteMandag;
597                          }                          }
598                          break;                                            break;                  
599                  case "scooter":                  case "scooter":
600                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
601                                  return "." + targetAddress.rute;                                  return "." + targetAddress.ruteMandag;
602                          } else if (eb.afstand < 0.801) {                          } else if (eb.afstand < 0.801) {
603                                  return ".." + targetAddress.rute;                                  return ".." + targetAddress.ruteMandag;
604                          } else if (eb.afstand < 1.201) {                          } else if (eb.afstand < 1.201) {
605                                  return "..." + targetAddress.rute;                                  return "..." + targetAddress.ruteMandag;
606                          } else if (eb.afstand < 2.101) {                          } else if (eb.afstand < 2.101) {
607                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.ruteMandag;
608                          }                          }
609                          break;                                                    break;                          
610                  case "bil":                  case "bil":
611                          if (eb.afstand < 0.151) {                          if (eb.afstand < 0.151) {
612                                  return "." + targetAddress.rute;                                  return "." + targetAddress.ruteMandag;
613                          } else if (eb.afstand < 1.001) {                          } else if (eb.afstand < 1.001) {
614                                  return ".." + targetAddress.rute;                                  return ".." + targetAddress.ruteMandag;
615                          } else if (eb.afstand < 1.601) {                          } else if (eb.afstand < 1.601) {
616                                  return "..." + targetAddress.rute;                                  return "..." + targetAddress.ruteMandag;
617                          } else if (eb.afstand < 2.601) {                          } else if (eb.afstand < 2.601) {
618                                  return "...." + targetAddress.rute;                                  return "...." + targetAddress.ruteMandag;
619                          }                          }
620                          break;                          break;
621                    default:
622                            System.out.println("Ukendt transport type: " + eb );
623                  }                                }              
624                  return null;                  return null;
625          }                }
626            
627            public List<Address> getNonCoveredAddresses() {
628                    List<Address> result = new ArrayList<Address>(60000);
629                    for (Address a : alleAdresser) {
630                            if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
631                                    result.add(a);
632                            }
633                    }
634                    Collections.sort(result );
635                    return result;
636            }
637            
638            public List<Address> get100PctAddresses() {
639                    List<Address> result = new ArrayList<Address>(120000);
640                    for (Address a : alleAdresser) {
641                            if ( a.daekningsType == DaekningsType.DAEKNING_100PCT) {
642                                    result.add(a);
643                            }
644                    }
645                    Collections.sort(result );
646                    return result;
647            }
648                    
649          ///////////////////////////////////////////////////////////          ///////////////////////////////////////////////////////////
650          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {          private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
# Line 343  public class AdressSearch { Line 654  public class AdressSearch {
654                  } else {                  } else {
655                          inject = "..";                          inject = "..";
656                  }                  }
657                  return AddressUtils.injectIntoBk(targetAddress.koreliste, inject);                  return AddressUtils.injectIntoBk(targetAddress.korelisteMandag, inject);
658          }          }
659                    
660          private Set<String> findVejAliaser(String vejnavn) {          
661                  vejnavn = vejnavn.toLowerCase();          public Set<Short> getPostnumre() {
662                  HashSet<String> aliasSet = new HashSet<String>();                  return new TreeSet<Short>( searchPostnrVejnavnGadeid.keySet() );
663                  aliasSet.add(vejnavn);          }
664                            
665                  aliasSet.add(vejnavn.replace("u", "ü") );          public Set<Entry<String,Integer>> getVejnavne(short postnr) {
666                  aliasSet.add(vejnavn.replace("ü", "u") );                  Map<String,Integer> map = searchPostnrVejnavnGadeid.get(postnr);
                   
                 aliasSet.add(vejnavn.replace("alle", "allé") );  
                 aliasSet.add(vejnavn.replace("allé", "alle") );                  
                   
                 aliasSet.add(vejnavn.replace("dronningens", "dr") );  
                 aliasSet.add(vejnavn.replace("dr.", "dronningens") );  
                 aliasSet.add(vejnavn.replace("dr ", "dronningens") );  
                   
                 aliasSet.add(vejnavn.replace("kvt", "kvarter") );  
                 aliasSet.add(vejnavn.replace("kvarter", "kvt") );  
                   
                 aliasSet.add(vejnavn.replace("gl", "gammel") );  
                 aliasSet.add(vejnavn.replace("gammel", "gl") );  
                   
                 aliasSet.add(vejnavn.replace("lille", "ll") );  
                 aliasSet.add(vejnavn.replace("ll ", "lille") );  
                 aliasSet.add(vejnavn.replace("ll.", "lille") );  
                   
                 aliasSet.add(vejnavn.replace("store", "st") );  
                 aliasSet.add(vejnavn.replace("st ", "store") );  
                 aliasSet.add(vejnavn.replace("st.", "store") );  
                   
                 aliasSet.add(vejnavn.replace("søndre", "sdr") );  
                 aliasSet.add(vejnavn.replace("sdr", "søndre") );  
   
667                                    
668                  aliasSet.add(vejnavn.replace("nørre", "nr") );                  TreeMap<String,Integer> newMap = new TreeMap<String,Integer>( map );//Lav et nyt TreeMap for at sikre sortering
                 aliasSet.add(vejnavn.replace("nr", "nørre") );  
669                                    
670                  aliasSet.add(vejnavn.replace("nordre", "ndr") );                  return newMap.entrySet();
671                  aliasSet.add(vejnavn.replace("ndr", "nordre") );          }
672            
673            public Set<String> getHusnumre(int gadeid) {
674                                                                    
675                  aliasSet.add(vejnavn.replace("sankt", "skt") );                  Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
                 aliasSet.add(vejnavn.replace("sankt", "sct") );  
                 aliasSet.add(vejnavn.replace("skt", "sankt") );  
                   
                 aliasSet.add(vejnavn.replace("skt", "sct") );  
                 aliasSet.add(vejnavn.replace("sct", "skt") );    
                   
                 // Opbyg æøå varianter over alle fundne aliaser  
676                                    
677                  @SuppressWarnings("unchecked")                  Set<String> set = new TreeSet<String>( new NaturalOrderComparator<String>() );
678                  HashSet<String> variants = (HashSet<String>) aliasSet.clone();                  for(Map<String,Address> litraList : gade.values()) {
679                                            for (Address a: litraList.values()) {
680                  Iterator<String> vIt = variants.iterator();                                  set.add( a.husnr + a.husnrbogstav );                            
681                  while ( vIt.hasNext() ) {                          }
                         String vVejnavn = vIt.next();  
                                           
                         // danske tegn 1  
                         aliasSet.add( vVejnavn.replace("æ", "ae") );  
                         aliasSet.add( vVejnavn.replace("ø", "oe") );  
                         aliasSet.add( vVejnavn.replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ") );  
                         aliasSet.add( vVejnavn.replace("oe", "ø") );  
                         aliasSet.add( vVejnavn.replace("aa", "å") );  
                           
                         //danske tegn 2  
                         aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );  
                         aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ø", "ae").replace("å", "aa") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );  
                         aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );  
                         aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );  
                           
                         //danske tegn 3  
                         aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );  
                         aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );  
682                  }                  }
683                                    
684                  return aliasSet;                  return set;
685          }          }
686                    
687                    public Address getAdresse(int gadeid, String husnrStr) {
688                    short husnr = Short.parseShort( husnrStr.replaceAll("[^\\d]","") );
689                    String litra =  husnrStr.replaceAll("\\d", "");        
690                    
691                    Map<Short,Map<String, Address>> gade = searchGadeidentAdresser.get(gadeid);
692                    Map<String, Address> litraList = gade.get(husnr);
693                    return litraList.get(litra);
694                    
695            }
696                    
697  }  }
Legend:
Removed from v.2312  
changed lines
  Added in v.2821
  ViewVC Help
Powered by ViewVC 1.1.20