--- dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java	2015/02/14 08:43:45	2289
+++ dao/DaoAdresseService/src/dk/daoas/daoadresseservice/AdressSearch.java	2015/02/27 09:39:05	2395
@@ -1,13 +1,23 @@
 package dk.daoas.daoadresseservice;
 
 import java.sql.SQLException;
+import java.text.SimpleDateFormat;
+import java.util.ArrayList;
+import java.util.Collections;
+import java.util.Date;
 import java.util.HashMap;
+import java.util.HashSet;
 import java.util.List;
 import java.util.Map;
+import java.util.Set;
 import java.util.concurrent.ConcurrentHashMap;
 
-import dk.daoas.daoadresseservice.AddressUtils.SplitResult;
+import org.apache.commons.lang3.StringUtils;
+
+import dk.daoas.daoadresseservice.admin.ServiceConfig;
 import dk.daoas.daoadresseservice.beans.Address;
+import dk.daoas.daoadresseservice.beans.AliasBean;
+import dk.daoas.daoadresseservice.beans.DataStatisticsBean;
 import dk.daoas.daoadresseservice.beans.ExtendedBean;
 import dk.daoas.daoadresseservice.beans.HundredePctBean;
 import dk.daoas.daoadresseservice.beans.SearchResult;
@@ -16,87 +26,158 @@
 
 public class AdressSearch {
 
-	Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;	
-	Map<Long,  Map<String,Address>> searchGadeidentAdresser;
+	private Map<Integer, Map<String,Long>> searchPostnrVejnavnGadeid;	
+	private Map<Long,  Map<String,Address>> searchGadeidentAdresser;
 
-	List<Address> alleAdresser;
+	private List<Address> alleAdresser;
+	
+	private Map<String,Long> helperCache;
 	
+	private DataStatisticsBean stats = new DataStatisticsBean();
 	
-	Map<Integer,HundredePctBean> hundredePct;
+	ServiceConfig config;
+	
+	public AdressSearch(ServiceConfig config) {
+		this.config = config;
+	}
 	
 	
 	public SearchResult search(String postnrStr, String adresse)  {
-//long start1 = System.currentTimeMillis();
+		
+		SearchResult result = new SearchResult();
 		
 		int postnr=0;
+
+		String helperSearchKey = "";
 		
 		try {
 			postnr = Integer.parseInt(postnrStr);
 		} catch (Exception E) {
-			return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);
+			result.status = Status.ERROR_UNKNOWN_POSTAL;
+			return result;
 		}		
-//long start2 = System.currentTimeMillis();
 		
 		Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(postnr);			
 		
 		if (postnrVeje == null) {
-			return new SearchResult(Status.ERROR_UNKNOWN_POSTAL);
+			result.status = Status.ERROR_UNKNOWN_POSTAL;
+			return result;
 		}
 		
-//long start3 = System.currentTimeMillis();
 		
-		SplitResult split = AddressUtils.splitAdresse(adresse);
-		String vasketVejnavn = AddressUtils.vaskVejnavn( split.vej );				
+		result.splitResult = AddressUtils.splitAdresse(adresse);
+						
 		
-		if (split.husnr.length() == 0) {
-			return new SearchResult(Status.ERROR_MISSING_HOUSENUMBER);			
+		if (result.splitResult.husnr.length() == 0) {
+			result.status = Status.ERROR_MISSING_HOUSENUMBER;
+			return result;
 		}
-//long start4 = System.currentTimeMillis();
+		
+		String vasketVejnavn = AddressUtils.vaskVejnavn( result.splitResult.vej );
 		
 		Long gadeident =  postnrVeje.get(vasketVejnavn);
+		
+		
+		if ( gadeident == null) {
+			helperSearchKey = "" + postnr + "/" + vasketVejnavn;
+			gadeident = helperCache.get(helperSearchKey);
+		}
+		
 		if (gadeident == null) {
-			return new SearchResult(Status.ERROR_UNKNOWN_STREETNAME);
+			String best = getbestLevenshteinDistance(vasketVejnavn, postnrVeje);
+			if (best != null) {
+				result.levenshtein = true;
+				gadeident =  postnrVeje.get(best);
+			}
 		}
-//long start5 = System.currentTimeMillis();
 		
-		Map<String, Address> gade =  searchGadeidentAdresser.get(gadeident); //Denne søgning må ikke fejle
 		
-//long start6 = System.currentTimeMillis();
+		// Brug OpenStreetMap før vi prøver google
+		// For google har en request limit, det har OSM ikke!
+		if ( gadeident == null) {
+			if (config.useOpenStreetMaps) {
+				result.osmVej = GeocodeHelper.openstreetmapHelper(config, postnr, result.splitResult.vej );
+				result.osm = true;
+				
+				gadeident = helperWrapper(result.osmVej, postnrVeje, helperSearchKey);
+			}
+		}
 		
-		String husnrSearch = "" + split.husnr + split.litra;
+		if ( gadeident == null) {
+			if (config.useGoogle) {
+				result.googleVej = GeocodeHelper.googleHelper(config, postnr, result.splitResult.vej );
+				result.google = true;
+				
+				gadeident = helperWrapper(result.googleVej, postnrVeje, helperSearchKey);				
+			}
+		}
+		
+
+		
+		if (gadeident == null) {			
+			result.status = Status.ERROR_UNKNOWN_STREETNAME; 
+			return result;
+		}
+		
+		
+		Map<String, Address> gade = searchGadeidentAdresser.get(gadeident); 
+		if (gade == null) { //Denne søgning må ikke fejle
+			result.status = Status.ERROR_INTERNAL; 
+			return result;			
+		}
+		
+		
+		String husnrSearch = "" + result.splitResult.husnr + result.splitResult.litra;
 		Address addr = gade.get(husnrSearch);
-//long start7 = System.currentTimeMillis();
+
 		if (addr == null) {
-			return new SearchResult(Status.ERROR_UNKNOWN_ADDRESSPOINT);
+			result.status = Status.ERROR_UNKNOWN_ADDRESSPOINT; 
+			return result;
 		}
 		
-		if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
-			return new SearchResult(Status.STATUS_NOT_COVERED);
-		}
+		result.address = addr;
+		
 		
-		if (addr.distributor.equals("LUKKET")) {
-			return new SearchResult(Status.STATUS_NOT_COVERED); //Skal vi have en special status til Lukkede adresser ?
+		if ( StringUtils.equals(addr.distributor, "LUKKET") ) {			
+			result.status = Status.STATUS_NOT_COVERED; //Skal vi have en special status til Lukkede adresser ?
+			return result;
+		}				
+		
+		if (addr.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
+			result.status = Status.STATUS_NOT_COVERED; 
+			return result;
 		}
+
 		
-/*
-System.out.println("Search2: " + (start2-start1) );
-System.out.println("Search3: " + (start3-start1) );
-System.out.println("Search4: " + (start4-start1) );
-System.out.println("Search5: " + (start5-start1) );
-System.out.println("Search6: " + (start6-start1) );
-System.out.println("Search7: " + (start7-start1) );
-*/
+		result.status = Status.STATUS_OK;
 
-				
+		return result;
+	}
+	
+	private Long helperWrapper(String vej, Map<String,Long> postnrVeje, String helperSearchKey) {
+		if (vej == null)
+			return null;
+		
+		String vejVasket = AddressUtils.vaskVejnavn( vej );
+		Long gadeident =  postnrVeje.get(vejVasket);
+		
+		if (gadeident != null) {
+			helperCache.put(helperSearchKey, gadeident);
+		}
+		return gadeident;
 		
-		return new SearchResult(addr);
 	}
 	
+
+
+	
 	
 	public void buildSearchStructures() throws SQLException{
 		searchPostnrVejnavnGadeid = new HashMap<Integer, Map<String,Long>>();
 		searchGadeidentAdresser = new HashMap<Long,  Map<String,Address>>();
-				
+		helperCache = new ConcurrentHashMap<String,Long>();
+		
+		long start1 = System.currentTimeMillis();
 		System.out.println("Build -- stage 1");
 		
 		alleAdresser = DatabaseLayer.getAllAdresses();
@@ -118,7 +199,14 @@
 			String vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
 			Long gadeident = postnrVeje.get(vasketVejnavn);
 			if (gadeident == null) {
-				postnrVeje.put(vasketVejnavn, a.gadeid);
+				//postnrVeje.put(vasketVejnavn, a.gadeid);
+				
+				Set<String> aliaser = findVejAliaser(a.vejnavn);
+				for(String alias : aliaser) {
+					String vasketAlias = AddressUtils.vaskVejnavn(alias);
+					postnrVeje.put(vasketAlias, a.gadeid);	
+				}
+				
 			}
 			
 			Map<String, Address> gade =  searchGadeidentAdresser.get(a.gadeid); 
@@ -130,9 +218,45 @@
 			gade.put(husnrSearch, a);			
 		}
 		
+		////////////////////////////////////////////////////////////////////////////////////////
+		long start2 = System.currentTimeMillis();
+		System.out.println("Build, stage1 elapsed: " + (start2-start1) );
+		System.out.println("Build -- stage 2 alias tabel");
+		
+		int vaskCount = 0;
+		List<AliasBean> aliasList = DatabaseLayer.getAliasList();
+		for (AliasBean alias : aliasList) {
+			Map<String,Long> postnrVeje = searchPostnrVejnavnGadeid.get(alias.postnr);
+			
+			if (postnrVeje == null) {
+				//Burde ikke kunne ske - men better safe than sorry
+				continue;
+			}
+			
+			String vasketVej = AddressUtils.vaskVejnavn(alias.vejnavn);
+			String vasketAlias = AddressUtils.vaskVejnavn(alias.aliasVejnavn);
+			
+			Long gadeident = postnrVeje.get(vasketVej);
+			if (gadeident == null) {
+				//Kender ikke den oprindelige vej
+				continue;
+			}
+			
+			Long aliasIdent = postnrVeje.get(vasketAlias);
+			
+			if (aliasIdent == null) { //Vi kender ikke denne variant af vejnavnet
+				postnrVeje.put(vasketAlias, gadeident);	
+				vaskCount++;
+			}
+			
+		}
+		System.out.println("Anvendte " + vaskCount + " aliaser fra databasen");
+		
 		
 		////////////////////////////////////////////////////////////////////////////////////////
-		System.out.println("Build -- stage 2 udvidet dækning");
+		long start3 = System.currentTimeMillis();
+		System.out.println("Build, stage2 elapsed: " + (start3-start2) );
+		System.out.println("Build -- stage 3 udvidet dækning");
 		
 		List<ExtendedBean> extDao = DatabaseLayer.getExtendedAdresslist();
 		for (ExtendedBean eb : extDao) {
@@ -189,9 +313,11 @@
 		idAddressMap = null;
 		
 		//////////////////////////////////////////////////////////////////////////////////////
-		System.out.println("Build -- stage 3 - 100pct");
+		long start4 = System.currentTimeMillis();
+		System.out.println("Build, stage3 elapsed: " + (start4-start3) );
+		System.out.println("Build -- stage 4 - 100pct");
 		
-		hundredePct = DatabaseLayer.get100PctList();
+		Map<Integer,HundredePctBean> hundredePct = DatabaseLayer.get100PctList();
 		for (Address addr : alleAdresser) {
 			if (addr.daekningsType != DaekningsType.DAEKNING_IKKEDAEKKET) {				
 				continue;
@@ -215,38 +341,62 @@
 		}
 		
 		////////////////////////////////////////////////////////////////////////////////////
+		long stop = System.currentTimeMillis();
+		System.out.println("Build, stage3 elapsed: " + (stop-start4) );
 		System.out.println("Build -- Gathering statistics");
-		
-		int direkteCount = 0;
-		int extendedCount = 0;
-		int hundredePctCount = 0;
-		int ikkeDaekketCount = 0;
-		
+				
 		for (Address addr : alleAdresser) {
 			switch (addr.daekningsType) {
 			case DAEKNING_DIREKTE:
-				direkteCount++;
+				stats.direkteCount++;
 				break;
 			case DAEKNING_UDVIDET:
-				extendedCount++;
+				stats.extendedCount++;
 				break;
 			case DAEKNING_100PCT:
-				hundredePctCount++;
+				stats.hundredePctCount++;
 				break;
 			default:
-				ikkeDaekketCount++;
+				stats.ikkeDaekketCount++;
 			}
-		}
+		}		
+		
 		
-		System.out.println("Build: direkteCount: " + direkteCount);
-		System.out.println("Build: extendedCount: " + extendedCount);
-		System.out.println("Build: hundredePctCount: " + hundredePctCount);
-		System.out.println("Build: ikkeDaekketCount: " + ikkeDaekketCount);
+		stats.elapsed = stop-start1;		
+		stats.buildTime = new SimpleDateFormat("yyyy-MM-dd HH:mm:ss").format( new Date() );
 		
+		System.out.println("Build: direkteCount: " + stats.direkteCount);
+		System.out.println("Build: extendedCount: " + stats.extendedCount);
+		System.out.println("Build: hundredePctCount: " + stats.hundredePctCount);
+		System.out.println("Build: ikkeDaekketCount: " + stats.ikkeDaekketCount);
+		
+		System.out.println("Build: Total Elapsed: " + (stop-start1) );
 		System.out.println("Build Completed");
 		
 	}
 	
+	public DataStatisticsBean getStatistics() {
+		return stats;
+	}
+	
+	public void clear() {
+		searchPostnrVejnavnGadeid.clear();
+		searchGadeidentAdresser.clear();
+		alleAdresser.clear();
+		helperCache.clear();
+	}
+	
+	
+	private String getbestLevenshteinDistance(String vasketVejnavn, Map<String,Long> postnrVeje) {
+		for(String vej : postnrVeje.keySet()) {
+			if ( StringUtils.getLevenshteinDistance(vasketVejnavn, vej) == 1) {
+				System.out.println("Levenstein: " + vasketVejnavn + "->" + vej);
+				return vej;
+			}
+		}
+		
+		return null;
+	}
 	
 	private String calculateExtendedDaoRoute(ExtendedBean eb, Address orgAddress, Address targetAddress) {
 
@@ -287,7 +437,18 @@
 			break;
 		}		
 		return null;
-	}	
+	}
+	
+	public List<Address> getNonCoveredAddresses() {
+		List<Address> result = new ArrayList<Address>(60000);
+		for (Address a : alleAdresser) {
+			if ( a.daekningsType == DaekningsType.DAEKNING_IKKEDAEKKET) {
+				result.add(a);
+			}
+		}
+		Collections.sort(result );
+		return result;
+	}
 	
 	///////////////////////////////////////////////////////////
 	private String calculateExtendedBkKoreliste(ExtendedBean eb, Address orgAddress, Address targetAddress) {
@@ -300,5 +461,102 @@
 		return AddressUtils.injectIntoBk(targetAddress.koreliste, inject);
 	}
 	
+	private Set<String> findVejAliaser(String vejnavn) {
+		vejnavn = vejnavn.toLowerCase();
+		HashSet<String> aliasSet = new HashSet<String>();
+		aliasSet.add(vejnavn);
+		
+		aliasSet.add(vejnavn.replace("u", "ü") );
+		aliasSet.add(vejnavn.replace("ü", "u") );
+		
+		aliasSet.add(vejnavn.replace("alle", "allé") );
+		aliasSet.add(vejnavn.replace("allé", "alle") );		
+		
+		aliasSet.add(vejnavn.replace("dronningens", "dr") );
+		aliasSet.add(vejnavn.replace("dr.", "dronningens") );
+		aliasSet.add(vejnavn.replace("dr ", "dronningens") );
+		
+		aliasSet.add(vejnavn.replace("dronning", "dr") );
+		aliasSet.add(vejnavn.replace("dr.", "dronning") );
+		aliasSet.add(vejnavn.replace("dr ", "dronning") );
+		
+		aliasSet.add(vejnavn.replace("kng", "kongen") );
+		aliasSet.add(vejnavn.replace("kongen", "kng") );
+		
+		aliasSet.add(vejnavn.replace("kvt", "kvarter") );
+		aliasSet.add(vejnavn.replace("kvarter", "kvt") );
+		
+		aliasSet.add(vejnavn.replace("gl", "gammel") );
+		aliasSet.add(vejnavn.replace("gammel", "gl") );
+		
+		aliasSet.add(vejnavn.replace("lille", "ll") );
+		aliasSet.add(vejnavn.replace("ll ", "lille") );
+		aliasSet.add(vejnavn.replace("ll.", "lille") );
+		
+		aliasSet.add(vejnavn.replace("store", "st") );
+		aliasSet.add(vejnavn.replace("st ", "store") );
+		aliasSet.add(vejnavn.replace("st.", "store") );
+		
+		aliasSet.add(vejnavn.replace("søndre", "sdr") );
+		aliasSet.add(vejnavn.replace("sdr", "søndre") );
+
+		
+		aliasSet.add(vejnavn.replace("nørre", "nr") );
+		aliasSet.add(vejnavn.replace("nr", "nørre") );
+		
+		aliasSet.add(vejnavn.replace("nordre", "ndr") );
+		aliasSet.add(vejnavn.replace("ndr", "nordre") );
+				
+		aliasSet.add(vejnavn.replace("sankt", "skt") );
+		aliasSet.add(vejnavn.replace("sankt", "sct") );
+		aliasSet.add(vejnavn.replace("skt", "sankt") );
+		
+		aliasSet.add(vejnavn.replace("skt", "sct") );
+		aliasSet.add(vejnavn.replace("sct", "skt") );
+		
+		
+		//alternative måder at stave vej/gade/alle
+		aliasSet.add(vejnavn.replace("vej", "ve") );
+		aliasSet.add(vejnavn.replace("vej", "vj") );
+		aliasSet.add(vejnavn.replace("vej", "v") );
+		
+		aliasSet.add(vejnavn.replace("alle", "all") );
+		aliasSet.add(vejnavn.replace("allé", "all") );
+		aliasSet.add(vejnavn.replace("alle", "allú") ); //Fundet i logs.hentruteinfo
+		aliasSet.add(vejnavn.replace("allé", "allú") );
+		
+		aliasSet.add(vejnavn.replace("gade", "gaed") ); //Fundet i logs.hentruteinfo
+		
+		
+		// Opbyg æøå varianter over alle fundne aliaser
+		
+		@SuppressWarnings("unchecked")
+		HashSet<String> variants = (HashSet<String>) aliasSet.clone();
+		
+		for (String vVejnavn : variants) {					
+			// danske tegn 1
+			aliasSet.add( vVejnavn.replace("æ", "ae") );
+			aliasSet.add( vVejnavn.replace("ø", "oe") );
+			aliasSet.add( vVejnavn.replace("å", "aa") );
+			aliasSet.add( vVejnavn.replace("ae", "æ") );
+			aliasSet.add( vVejnavn.replace("oe", "ø") );
+			aliasSet.add( vVejnavn.replace("aa", "å") );
+			
+			//danske tegn 2
+			aliasSet.add( vVejnavn.replace("æ", "ae").replace("ø", "oe") );
+			aliasSet.add( vVejnavn.replace("æ", "ae").replace("å", "aa") );
+			aliasSet.add( vVejnavn.replace("ø", "ae").replace("å", "aa") );
+			aliasSet.add( vVejnavn.replace("ae", "æ").replace("oe","ø") );
+			aliasSet.add( vVejnavn.replace("ae", "æ").replace("aa","å") );
+			aliasSet.add( vVejnavn.replace("oe", "ø").replace("aa", "å") );
+			
+			//danske tegn 3
+			aliasSet.add( vejnavn.replace("æ", "ae").replace("ø", "oe").replace("å", "aa") );
+			aliasSet.add( vejnavn.replace("ae", "æ").replace("oe", "ø").replace("aa", "å") );
+		}
+		
+		return aliasSet;
+	}
+	
 	
 }