/[projects]/dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/db/DatabaseLayer.java
ViewVC logotype

Diff of /dao/DaoAdresseService/src/main/java/dk/daoas/daoadresseservice/db/DatabaseLayer.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2281 by torben, Fri Feb 13 15:12:28 2015 UTC revision 2384 by torben, Thu Feb 26 13:11:45 2015 UTC
# Line 2  package dk.daoas.daoadresseservice.db; Line 2  package dk.daoas.daoadresseservice.db;
2    
3    
4  import java.sql.Connection;  import java.sql.Connection;
5    import java.sql.PreparedStatement;
6  import java.sql.ResultSet;  import java.sql.ResultSet;
7  import java.sql.SQLException;  import java.sql.SQLException;
8  import java.sql.Statement;  import java.sql.Statement;
# Line 10  import java.util.HashMap; Line 11  import java.util.HashMap;
11  import java.util.List;  import java.util.List;
12  import java.util.Map;  import java.util.Map;
13    
 import dk.daoas.daoadresseservice.Address;  
 import dk.daoas.daoadresseservice.AddressUtils;  
14  import dk.daoas.daoadresseservice.DaekningsType;  import dk.daoas.daoadresseservice.DaekningsType;
15  import dk.daoas.daoadresseservice.ExtendedBean;  import dk.daoas.daoadresseservice.beans.Address;
16  import dk.daoas.daoadresseservice.HundredePctBean;  import dk.daoas.daoadresseservice.beans.ExtendedBean;
17    import dk.daoas.daoadresseservice.beans.HundredePctBean;
18    import dk.daoas.daoadresseservice.beans.LoggedAddress;
19    import dk.daoas.daoadresseservice.beans.SearchResult;
20    import dk.daoas.daoadresseservice.util.DeduplicateHelper;
21    
22  public class DatabaseLayer {  public class DatabaseLayer {
23                    
24            static boolean DEBUG = false;
25            
26          public static List<Address> getAllAdresses() throws SQLException {          public static List<Address> getAllAdresses() throws SQLException {
27                    String debugFilter = DatabaseLayer.DEBUG ? " AND postnr = 8700 " : "";
28                                    
29                  String sql = "SELECT id,vejnavn,husnr,husnrbogstav,kommunekode,vejkode,postnr,gadeid,distributor,dbkbane,koreliste,rute "                  String sql = "SELECT id,vejnavn,husnr,husnrbogstav,kommunekode,vejkode,postnr,gadeid,upper(distributor) AS distributor,dbkbane,koreliste,rute "
30                                  + "FROM fulddaekning.adressetabel "                                  + "FROM fulddaekning.adressetabel "
31                                  + "WHERE postnr >=5000" //DEBUG only                                  + "WHERE gadeid IS NOT NULL "
32                                    + debugFilter
33                                  ;                                  ;
34                                    
35                  Connection conn = DBConnection.getConnection();                          try ( Connection conn = DBConnection.getConnection();          
36                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);                                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);
37                  ResultSet res = stmt.executeQuery(sql);                                  ) {
38                                            stmt.setFetchSize(Integer.MIN_VALUE);
39                  List<Address> list = new ArrayList<Address>();                          ResultSet res = stmt.executeQuery(sql);
40                                            
41                  while (res.next()) {                          List<Address> list = new ArrayList<Address>(2600000);//initial capacity 2.6 mio
42                          Address a = new Address();                          
43                          a.id = res.getInt(1);                          DeduplicateHelper<String> vejnavnCache = new DeduplicateHelper<String>();
44                          a.vejnavn = res.getString(2);                          DeduplicateHelper<String> husnrbogstavCache = new DeduplicateHelper<String>();
45                          a.husnr = res.getInt(3);                          DeduplicateHelper<String> distributorCache = new DeduplicateHelper<String>();
46                          a.husnrbogstav = res.getString(4);                          DeduplicateHelper<String> korelisteCache = new DeduplicateHelper<String>();
47                          a.kommunekode = res.getInt(5);                          DeduplicateHelper<String> ruteCache = new DeduplicateHelper<String>();
48                          a.vejkode = res.getInt(6);          
                         a.postnr = res.getInt(7);  
                         a.gadeid = res.getLong(8);  
                         a.distributor = res.getString(9);  
                         a.dbkBane = res.getInt(10);  
                         a.koreliste = res.getString(11);  
                         a.rute = res.getString(12);  
                           
                         //a.vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);  
                           
                         if (a.rute != null && a.rute.length()> 0) {  
                                 a.daekningsType = DaekningsType.DAEKNING_DIREKTE;  
                         } else {  
                                 a.daekningsType = DaekningsType.DAEKNING_IKKEDAEKKET;  
                         }  
49                                                    
50                          if (a.distributor != null) {                          while (res.next()) {
51                                  a.distributor = a.distributor.toUpperCase();                                  
52                                    Address a = new Address();
53                                    a.id = res.getInt(1);
54                                    a.vejnavn = vejnavnCache.getInstance( res.getString(2) );
55                                    a.husnr = res.getInt(3);
56                                    a.husnrbogstav = husnrbogstavCache.getInstance( res.getString(4) );
57                                    a.kommunekode = res.getInt(5);
58                                    a.vejkode = res.getInt(6);
59                                    a.postnr = res.getInt(7);
60                                    a.gadeid = res.getLong(8);
61                                    a.distributor = distributorCache.getInstance(res.getString(9));
62                                    a.dbkBane = res.getInt(10);
63                                    a.koreliste = korelisteCache.getInstance( res.getString(11) );
64                                    a.rute = ruteCache.getInstance( res.getString(12) );
65                                    
66                                    //a.vasketVejnavn = AddressUtils.vaskVejnavn(a.vejnavn);
67                                    
68                                    if (a.rute != null && a.rute.length()> 0) {
69                                            a.daekningsType = DaekningsType.DAEKNING_DIREKTE;
70                                    } else {
71                                            a.daekningsType = DaekningsType.DAEKNING_IKKEDAEKKET;
72                                    }                      
73                                    
74                                    list.add(a);
75                          }                          }
76                            res.close();
77                            stmt.close();
78                            conn.close();
79                            
80                            System.out.println("Loaded " + list.size() + " adresses");
81                                                    
82                          list.add(a);                          return list;
83                  }                  }
                 res.close();  
                 stmt.close();  
                 conn.close();  
                   
                 System.out.println("Loaded " + list.size() + " adresses");  
                   
                 return list;  
84          }          }
85                    
86          public static List<ExtendedBean> getExtendedAdresslist() throws SQLException {          public static List<ExtendedBean> getExtendedAdresslist() throws SQLException {
87                  String sql = "select orgid, a.id as targetid, afstand,type from fulddaekning.afstand_anden_rute a " +                  String debugFilter1 = DatabaseLayer.DEBUG ? " WHERE orgPostnr = 8700 " : "";
88                    String debugFilter2 = DatabaseLayer.DEBUG ? " AND orgPostnr = 8700 " : "";
89                    
90                    
91                    String sql = "select orgid, a.id as targetid, afstand, LOWER(type) as type from fulddaekning.afstand_anden_rute a " +
92                                          "join odbc.transporttype t " +                                          "join odbc.transporttype t " +
93                                          "on t.Art = 'Transpost' " +                                          "on t.Art = 'Transpost' " +
94                                          "and ( (t.Type = 'Cykel' and a.Afstand < 1.001) or (t.Type = 'Scooter' and a.Afstand < 1.201) or (t.Type = 'Bil' and a.Afstand < 2.601) ) " +                                          "and ( (t.Type = 'Cykel' and a.Afstand < 1.001) or (t.Type = 'Scooter' and a.Afstand < 1.201) or (t.Type = 'Bil' and a.Afstand < 2.601) ) " +
95                                          "and t.Rute = a.Rute " +                                          "and t.Rute = a.Rute " +
96                                            debugFilter1 +
97                                                                                    
98                                          "UNION ALL " +                                          "UNION ALL " +
99                                                                                    
100                                          "SELECT orgid, a.id as targetid, afstand,'' as type FROM  fulddaekning.afstand_anden_rute_bk a " +                                          "SELECT orgid, a.id as targetid, afstand,'' as type FROM  fulddaekning.afstand_anden_rute_bk a " +
101                                          "left join bogleveringer.postnummerdistributor d on d.PostNr = a.orgPostnr " +                                          "left join bogleveringer.postnummerdistributor d on d.PostNr = a.orgPostnr " +
102                                          "WHERE d.Distributor <> 10057"                                          "WHERE d.Distributor <> 10057 " +
103                                            debugFilter2
104                                          ;                                          ;
105                                    
106                  Connection conn = DBConnection.getConnection();                          try ( Connection conn = DBConnection.getConnection();          
107                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);                                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);
108                  ResultSet res = stmt.executeQuery(sql);                                  ) {
109                                            
                 List<ExtendedBean> list = new ArrayList<ExtendedBean>();  
                 while (res.next()) {  
                         ExtendedBean eb = new ExtendedBean();  
                         eb.orgId = res.getInt(1);  
                         eb.targetId = res.getInt(2);  
                         eb.afstand = res.getDouble(3);  
                         eb.transport = res.getString(4).toLowerCase();  
                                                   
                         list.add(eb);  
                 }  
                   
                 res.close();  
                 stmt.close();  
                 conn.close();  
                   
                 System.out.println("Loaded " + list.size() + " extendedbeans");  
110                                    
111                  return list;                          stmt.setFetchSize(Integer.MIN_VALUE);
112                            
113                            ResultSet res = stmt.executeQuery(sql);
114                            
115                            DeduplicateHelper<String> transportCache = new DeduplicateHelper<String>();
116                            
117                            List<ExtendedBean> list = new ArrayList<ExtendedBean>( 350000); //Initial capacity 350K
118                            while (res.next()) {            
119                                    
120                                    ExtendedBean eb = new ExtendedBean();
121                                    eb.orgId = res.getInt(1);
122                                    eb.targetId = res.getInt(2);
123                                    eb.afstand = res.getDouble(3);
124                                    eb.transport = transportCache.getInstance(res.getString(4));
125                                                            
126                                    list.add(eb);
127                            }
128                            
129                            res.close();
130                            
131                            System.out.println("Loaded " + list.size() + " extendedbeans");
132                            
133                            return list;
134                    }
135          }          }
136                    
137          public static Map<Integer,HundredePctBean> get100PctList() throws SQLException {          public static Map<Integer,HundredePctBean> get100PctList() throws SQLException {
138                  String sql = "SELECT postnr,distributor,rute,koreliste,dbkbane " +                  String sql = "SELECT postnr,UPPER(distributor) as distributor,rute,koreliste,dbkbane " +
139                                           "FROM bogleveringer.adresser_udenfor_daekning";                                           "FROM bogleveringer.adresser_udenfor_daekning";
140                                    
141                  Connection conn = DBConnection.getConnection();                          try ( Connection conn = DBConnection.getConnection();          
142                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);                                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);
143                  ResultSet res = stmt.executeQuery(sql);                                  ) {
144                            ResultSet res = stmt.executeQuery(sql);
145                  Map<Integer,HundredePctBean> map = new HashMap<Integer,HundredePctBean>();          
146                                            Map<Integer,HundredePctBean> map = new HashMap<Integer,HundredePctBean>();
147                  while (res.next()) {                          
148                            DeduplicateHelper<String> distributorCache = new DeduplicateHelper<String>();
149                                                    
150                          HundredePctBean bean = new HundredePctBean();                          while (res.next()) {
151                          bean.postnr = res.getInt(1);                                  
152                          bean.distributor = res.getString(2).toUpperCase();                                  
153                          bean.rute = res.getString(3);                                  HundredePctBean bean = new HundredePctBean();
154                          bean.koreliste = res.getString(4);                                  bean.postnr = res.getInt(1);
155                          bean.dbkBane = res.getInt(5);                                                    bean.distributor = distributorCache.getInstance(res.getString(2));
156                                                                                    bean.rute = res.getString(3);
157                          map.put(bean.postnr, bean);                                  bean.koreliste = res.getString(4);
158                                    bean.dbkBane = res.getInt(5);                  
159                                                            
160                                    map.put(bean.postnr, bean);
161                            }
162                            
163                            res.close();
164                            
165                            System.out.println("Loaded " + map.size() + " 100pct beans");
166                            
167                            return map;
168                  }                  }
169                                    
170                  res.close();          }
171                  stmt.close();          
172                  conn.close();          public static void saveRequestLog(String brugerid, String postnr, String adresse, SearchResult result) throws SQLException {
173                    String sql = "INSERT INTO logs.hentruteinformation (postnr,adresse,vejnavn,googlevejnavn,husnr,husnr_bogstav,etage,lejlighed,rest,brugerid,status, indlast) " +
174                                            "VALUES ( ?, ?, ?, ?, ?, ?, ?, ?, ?, ?, ?,  NOW() )";
175                                    
176                  System.out.println("Loaded " + map.size() + " extendedbeans");  
177                                    
178                  return map;                  try ( Connection conn = DBConnection.getConnection();          
179                                    PreparedStatement stmt = conn.prepareStatement(sql);
180                            ) {
181                            
182                            stmt.setInt( 1, safeInt(postnr) );
183                            stmt.setString( 2, adresse);
184                            stmt.setString( 3, result.splitResult.vej);
185                            stmt.setString( 4, coalesce(result.googleVej,result.osmVej) );
186                            stmt.setString( 5, nullify(result.splitResult.husnr) );
187                            stmt.setString( 6, result.splitResult.litra);
188                            stmt.setString( 7, result.splitResult.etage);
189                            stmt.setString( 8, result.splitResult.lejlighed);
190                            stmt.setString( 9, result.splitResult.resten);
191                            stmt.setString(10, brugerid);
192                            stmt.setInt(11, getStatusInt(result.status) );
193                            
194                            stmt.executeUpdate();
195                            
196                    }              
197            }
198            
199            /*
200             * Bruges til at sammenligne gammel og ny adresse service - kan fjernes engang efter at vi er skiftet til ny service
201             */
202            public static List<LoggedAddress> getLoggedAdresses(int antaldage) throws SQLException {
203                    String sql = "select postnr,adresse,status from logs.hentruteinformation where indlast>=date_sub(curdate(), interval " + antaldage + " day) " +
204                                    "and status IN (10,11,12) " +
205                                    "group by postnr,adresse "
206                                    ;
207    
208                    try ( Connection conn = DBConnection.getConnection();          
209                                    Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);
210                                    ) {
211    
212    
213                            stmt.setFetchSize(Integer.MIN_VALUE);
214    
215                            ResultSet res = stmt.executeQuery(sql);
216    
217                            List<LoggedAddress> result = new ArrayList<LoggedAddress>();
218    
219                            while (res.next()) {
220                                    LoggedAddress a = new LoggedAddress();                          
221                                    a.postnr = res.getInt(1);                              
222                                    a.adresse = res.getString(2);
223                                    a.status = res.getInt(3);
224    
225                                    result.add(a);
226                            }
227    
228                            res.close();
229    
230                            return result;
231                    }
232            }
233            
234            private static int getStatusInt(SearchResult.Status status) {
235    
236                    switch (status) {
237                    case ERROR_UNKNOWN_POSTAL:
238                            return 20;
239                    case ERROR_MISSING_HOUSENUMBER:
240                            return 21;
241                    case ERROR_UNKNOWN_STREETNAME:
242                            return 22;
243                    case ERROR_UNKNOWN_ADDRESSPOINT:
244                            return 23;
245                    case STATUS_NOT_COVERED:
246                            return 24;
247                    case STATUS_OK:
248                            return 25;
249                            
250                    default:
251                            return 29;
252                    }
253            }
254            
255            private static int safeInt(String str) {
256                    try {
257                            return Integer.parseInt( str );
258                    } catch (NumberFormatException e) {
259                            return 0;
260                    }
261            }
262            
263            private static String nullify(String str) {
264                    if (str == null)
265                            return null;
266                    
267                    if (str.equals("")) {
268                            return null;
269                    } else {
270                            return str;
271                    }
272            }
273            
274            private static String coalesce(String s1, String s2) {
275                    if (s1 != null)
276                            return s1;
277                                    
278                    return s2;
279          }          }
280    
281                    
282  }  }
Legend:
Removed from v.2281  
changed lines
  Added in v.2384
  ViewVC Help
Powered by ViewVC 1.1.20