/[projects]/dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/afstandandenrute/Database.java
ViewVC logotype

Diff of /dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/afstandandenrute/Database.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2878 by torben, Sat Jan 30 14:05:53 2016 UTC revision 2927 by torben, Fri Feb 5 11:01:48 2016 UTC
# Line 5  import java.sql.Connection; Line 5  import java.sql.Connection;
5  import java.sql.PreparedStatement;  import java.sql.PreparedStatement;
6  import java.sql.ResultSet;  import java.sql.ResultSet;
7  import java.sql.SQLException;  import java.sql.SQLException;
8    import java.sql.Statement;
9  import java.util.ArrayList;  import java.util.ArrayList;
10  import java.util.HashMap;  import java.util.HashMap;
11  import java.util.List;  import java.util.List;
# Line 13  import java.util.Queue; Line 14  import java.util.Queue;
14  import java.util.Set;  import java.util.Set;
15  import java.util.TreeSet;  import java.util.TreeSet;
16  import java.util.concurrent.ConcurrentLinkedQueue;  import java.util.concurrent.ConcurrentLinkedQueue;
 import java.util.logging.Logger;  
17    
18  import dk.daoas.adressevedligehold.beans.Address;  import dk.daoas.adressevedligehold.beans.Address;
19    import dk.daoas.adressevedligehold.tasks.TaskLogger;
20  import dk.daoas.adressevedligehold.util.DeduplicateHelper;  import dk.daoas.adressevedligehold.util.DeduplicateHelper;
21    import edu.umd.cs.findbugs.annotations.SuppressFBWarnings;
22    
23    
24    
25  public class Database {  public class Database {
26          Logger logger = Logger.getLogger(Database.class.getName());          private TaskLogger logger = TaskLogger.getInstance();
27    
28          int batchCount = 0;          int batchCount = 0;
29    
# Line 45  public class Database { Line 47  public class Database {
47                    
48          //Map<Short, List<Address>> ikkeDaekkedePrPost = new HashMap<Short, List<Address>>();          //Map<Short, List<Address>> ikkeDaekkedePrPost = new HashMap<Short, List<Address>>();
49                    
50            boolean isIncremental;
51                    
52          private HashMap<Short,BoundingBox> bbCache = new HashMap<Short,BoundingBox>();          private HashMap<Short,BoundingBox> bbCache = new HashMap<Short,BoundingBox>();
53    
54          public Database(Connection conn)  throws SQLException,IOException {          public Database(Connection conn, boolean isIncremental)  throws SQLException,IOException {
55                  this.conn = conn;                  this.conn = conn;
56                    
57                    String newExt = "";
58                    if (isIncremental == false) {
59                            newExt = "_ny";
60                    }
61    
62                  String sql = "INSERT INTO fulddaekning.afstand_anden_rute_ny (orgId,orgPostnr, orgAddress,orgGadeid,orgHusnr,orgHusnrBogstav,orgRute,id,postnr,Address,gadeid,husnr,husnrbogstav,rute,afstand,`timestamp`) "+                  String sql = "INSERT INTO fulddaekning.afstand_anden_rute" + newExt + " (orgId,orgPostnr, orgAdresse,orgGadeid,orgHusnr,orgHusnrBogstav,orgRute,id,postnr,adresse,gadeid,husnr,husnrbogstav,rute,afstand,`timestamp`) "+
63                                  "VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?,?, now() )";                                  "VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?,?, now() )";
64    
65                  saveStmt = conn.prepareStatement(sql);                            saveStmt = conn.prepareStatement(sql);          
66                    this.isIncremental = isIncremental;
67    
68          }          }
69    
70          public void resetResultTable() throws SQLException {          public void resetResultTable() throws SQLException {
71                  logger.info("Dropping old result table (if exists)");                  if (isIncremental == true) {
72                  String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_ny";                          return;
73                  conn.createStatement().executeUpdate(sql);                  }
74                                    
75                  logger.info("Create new result table");                  try (Statement stmt = conn.createStatement()) {
76                  sql = "CREATE TABLE fulddaekning.afstand_anden_rute_ny LIKE fulddaekning.afstand_anden_rute";                          logger.info("Dropping old result table (if exists)");
77                  conn.createStatement().executeUpdate(sql);                                        String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_ny";
78                            stmt.executeUpdate(sql);
79                            
80                            logger.info("Create new result table");
81                            sql = "CREATE TABLE fulddaekning.afstand_anden_rute_ny LIKE fulddaekning.afstand_anden_rute";
82                            stmt.executeUpdate(sql);                
83                            
84                    }
85          }                }      
86                    
87            @SuppressFBWarnings("SQL_NONCONSTANT_STRING_PASSED_TO_EXECUTE")
88          public void renameResultTables() throws SQLException {          public void renameResultTables() throws SQLException {
89                  if (AfstandAndenRuteTask.test_mode == true) {                  if (AfstandAndenRuteTask.test_mode == true) {
90                          throw new RuntimeException("Can not rename tables in test mode");                          throw new RuntimeException("Can not rename tables in test mode");
91                  }                  }
   
                 Constants consts = Constants.getInstance();  
                 String ext = consts.getTableExtension();  
92                                    
93                  logger.info("Dropping old backup table (if exists)");                  if (isIncremental) {
94                  String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_old" + ext;                          return;
95                  conn.createStatement().executeUpdate(sql);                  }
96                    
97                    Constants consts = Constants.getInstance();
98                                    
99                  logger.info("Rename tables");                  try (Statement stmt = conn.createStatement()) {
100                  String sql2 = "RENAME TABLE fulddaekning.afstand_anden_rute" + ext + " TO fulddaekning.afstand_anden_rute_old" + ext + ", fulddaekning.afstand_anden_rute_ny TO fulddaekning.afstand_anden_rute" + ext;                          
101                            String ext = consts.getTableExtension();
102                            
103                            logger.info("Dropping old backup table (if exists)");
104                            String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_old" + ext;
105                            stmt.executeUpdate(sql);
106                            
107                            logger.info("Rename tables");
108                            String sql2 = "RENAME TABLE fulddaekning.afstand_anden_rute" + ext + " TO fulddaekning.afstand_anden_rute_old" + ext + ", fulddaekning.afstand_anden_rute_ny TO fulddaekning.afstand_anden_rute" + ext;
109    
110                  logger.info("Executing: " + sql2);                          logger.info("Executing: " + sql2);
111                  conn.createStatement().executeUpdate(sql2);                                      stmt.executeUpdate(sql2);                      
112                    }
113    
114                    
115          }          }
116                    
117          public BoundingBox getBoundingbox(short postnr)  {          public BoundingBox getBoundingbox(short postnr)  {
118                  BoundingBox bb = bbCache.get(postnr);                  BoundingBox bb = bbCache.get(postnr);
119                  return bb.clone();//never return the original / cached object                  return new BoundingBox(bb); //never return the original / cached object
120          }          }
121                    
122                    
# Line 99  public class Database { Line 126  public class Database {
126    
127    
128          public Queue<Address> hentAlleIkkedaekkedeAdresser(int minPostnr, int maxPostnr)  throws SQLException {          public Queue<Address> hentAlleIkkedaekkedeAdresser(int minPostnr, int maxPostnr)  throws SQLException {
129                    String placeHolder1 = "%INCREMENTAL1%";
130                    String placeHolder2 = "%INCREMENTAL2%";
131                    
132                    Constants consts = Constants.getInstance();
133                                    
134                  logger.info("Henter alle IKKE-daekkede Addressr");                  logger.info("Henter alle IKKE-daekkede Addressr");
135    
136                  String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +                  String sql = "SELECT a.id,a.postnr,a.vejnavn,a.gadeid,a.husnr,a.husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +
137                                  "FROM fulddaekning.Addresstabel a " +                                  "FROM fulddaekning.adressetabel a " +
138                                  "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +                                  "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +
139                                    placeHolder1 +
140                                  "WHERE ruteMa IS NULL " +  //Ingen dækning                                  "WHERE ruteMa IS NULL " +  //Ingen dækning
141                                  "AND a.postnr BETWEEN ? AND ? " +                                  "AND a.postnr BETWEEN ? AND ? " +
142                                  "AND latitude IS NOT NULL " +                                  "AND latitude IS NOT NULL " +
143                                  "AND longitude IS NOT NULL " +                                  "AND longitude IS NOT NULL " +
144                                  "AND gadeid IS NOT NULL " +                                  "AND a.gadeid IS NOT NULL " +
145                                  "AND (a.distributor IS NULL OR a.distributor<>'LUKKET') "                                  "AND (a.distributor IS NULL OR a.distributor<>'LUKKET') " +
146                                    placeHolder2 +
147                                    "ORDER BY gadeid "
148                                  ;                                                ;              
149                                    
150                    
151                    if (isIncremental) {                    
152                            sql = sql.replace(placeHolder1, "LEFT JOIN fulddaekning.afstand_anden_rute" + consts.getTableExtension() +" afstand ON (a.id = afstand.orgId) " );
153                            sql = sql.replace(placeHolder2, "AND afstand.id IS NULL " );
154                    } else {
155                            sql = sql.replace(placeHolder1, "");
156                            sql = sql.replace(placeHolder2, "");
157                    }
158                    
159                  if (AfstandAndenRuteTask.test_mode == true) {                  if (AfstandAndenRuteTask.test_mode == true) {
160                          sql = sql + " LIMIT 100 ";                          sql = sql + " LIMIT 100 ";
161                  }                  }
162                                    
163                  PreparedStatement stmt = conn.prepareStatement(sql);                  try (PreparedStatement stmt = conn.prepareStatement(sql)) {
                 stmt.setInt(1, minPostnr);  
                 stmt.setInt(2, maxPostnr);  
   
                 List<Address> list = hentAdresseListe( stmt );  
                 alleIkkeDaekkede = list.toArray( new Address[ list.size() ] );  
                   
                 logger.info("Analyserer ikke-daekkede Addressr");  
                   
                 for (Address a : alleIkkeDaekkede) {  
164                                                    
165                    
166                            stmt.setInt(1, minPostnr);
167                            stmt.setInt(2, maxPostnr);
168            
169                            List<Address> list = hentAdresseListe( stmt );
170                            alleIkkeDaekkede = list.toArray( new Address[ list.size() ] );
171                                                    
172                          BoundingBox bbox;                          logger.info("Analyserer ikke-daekkede Addressr");
173                                                    
174                          if (! postnumre.contains(a.postnr )) {                          for (Address a : alleIkkeDaekkede) {
175                                  postnumre.add( a.postnr );                                  
176                                                                    
177                                  bbox = new BoundingBox();                                  BoundingBox bbox;
178                                    
179                                    if (! postnumre.contains(a.postnr )) {
180                                            postnumre.add( a.postnr );
181                                            
182                                            bbox = new BoundingBox();
183                                            
184                                            bbCache.put( a.postnr, bbox);                                                                                  
185                                            
186                                    } else {
187                                             bbox = bbCache.get( a.postnr);
188                                    }
189                                    
190                                    bbox.latitudeMax = Math.max(bbox.latitudeMax, a.latitude);
191                                    bbox.latitudeMin = Math.min(bbox.latitudeMin, a.latitude);
192                                    bbox.longitudeMax = Math.max(bbox.longitudeMax, a.longitude);
193                                    bbox.longitudeMin = Math.min(bbox.longitudeMin, a.longitude);
194                                                                    
                                 bbCache.put( a.postnr, bbox);                                                                                    
195                                                                    
                         } else {  
                                  bbox = bbCache.get( a.postnr);  
196                          }                          }
197                                                    return new ConcurrentLinkedQueue<Address>( list );
                         bbox.latitudeMax = Math.max(bbox.latitudeMax, a.latitude);  
                         bbox.latitudeMin = Math.min(bbox.latitudeMin, a.latitude);  
                         bbox.longitudeMax = Math.max(bbox.longitudeMax, a.longitude);  
                         bbox.longitudeMin = Math.min(bbox.longitudeMin, a.longitude);  
                           
                           
198                  }                  }
                 return new ConcurrentLinkedQueue<Address>( list );  
199          }          }
200                    
201    
# Line 163  public class Database { Line 209  public class Database {
209                                    
210                  if ( alleAddressr == null ) {                  if ( alleAddressr == null ) {
211                          String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +                          String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +
212                                          "FROM fulddaekning.Addresstabel a " +                                          "FROM fulddaekning.adressetabel a " +
213                                          "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +                                          "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +
214                                          "WHERE ruteMa IS NOT NULL " +                                          "WHERE ruteMa IS NOT NULL " +
215                                          "AND latitude IS NOT NULL " +                                          "AND latitude IS NOT NULL " +
# Line 175  public class Database { Line 221  public class Database {
221                          }                          }
222                    
223                          // Forward only + concur_read_only + fetchsize tvinger driver til at hente en række af gangen (bedre performance ved store result sets)                          // Forward only + concur_read_only + fetchsize tvinger driver til at hente en række af gangen (bedre performance ved store result sets)
224                          // Se http://dev.mysql.com/doc/connector-j/en/connector-j-reference-implementation-notes.html                          // Se http://dev.mysql.com/doc/connector-j/en/connector-j-reference-implementation-notes.html
                         PreparedStatement stmt = conn.prepareStatement(sql, java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);  
                         stmt.setFetchSize(Integer.MIN_VALUE);  
           
                         stmt.setString(1, distributor);  
           
                         List<Address> list = hentAdresseListe( stmt );  
                           
                         alleAddressr = new ArrayList<Address>();  
                         alleAddressr.addAll(list);  
225                                                    
226                          for(Address addr : list) {                          try (PreparedStatement stmt = conn.prepareStatement(sql, java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY)) {
227                                  short ho = addr.ho;                                  stmt.setFetchSize(Integer.MIN_VALUE);
228                                  List<Address> hoListe = daekkedeAddressrHO.get(ho);                  
229                                  if ( hoListe == null) {                                  stmt.setString(1, distributor);
230                                          hoListe = new ArrayList<Address>();                  
231                                          daekkedeAddressrHO.put(ho, hoListe);                                                                      List<Address> list = hentAdresseListe( stmt );
                                 }  
232                                                                    
233                                  hoListe.add(addr);                                                                                                alleAddressr = new ArrayList<Address>();
234                                    alleAddressr.addAll(list);
235                                                                    
236                                    for(Address addr : list) {
237                                            short ho = addr.ho;
238                                            List<Address> hoListe = daekkedeAddressrHO.get(ho);
239                                            if ( hoListe == null) {
240                                                    hoListe = new ArrayList<Address>();
241                                                    daekkedeAddressrHO.put(ho, hoListe);                                    
242                                            }
243                                            
244                                            hoListe.add(addr);                                                              
245                                            
246                                    }
247                          }                          }
248                  }                  }
249                                    
250                  return alleAddressr.size();                  return alleAddressr.size();
251                    
252          }          }
253                    
254                    
# Line 242  public class Database { Line 291  public class Database {
291                  //saveStmt.close();                      //saveStmt.close();    
292          }          }
293                    
294            
295            @SuppressFBWarnings("SQL_NONCONSTANT_STRING_PASSED_TO_EXECUTE")
296            public void prepareIncrementalSearch() throws SQLException {
297                    
298                    logger.info("prepareIncrementalSearch() ");
299                    
300                    Constants consts = Constants.getInstance();
301                    
302                    String sql1 = "UPDATE fulddaekning.afstand_anden_rute" + consts.getTableExtension() + " afstand " +
303                                             "JOIN fulddaekning.adressetabel addr ON (afstand.id = addr.id) " +
304                                             "SET afstand.id = 0 " +
305                                             "WHERE addr.rutema is null "
306                                             ;
307                    
308                    String sql2 = "DELETE FROM fulddaekning.afstand_anden_rute" + consts.getTableExtension() + " " +
309                                              "WHERE id=0 "
310                                              ;
311                    
312                    
313                    try (Statement stmt = conn.createStatement()) {
314                            
315                            int rows = stmt.executeUpdate(sql1);
316                            logger.info(sql1 + "\n updated rows: " + rows);
317                            
318                            rows = stmt.executeUpdate(sql2);
319                            logger.info(sql2 + "\n deleted rows: " + rows);
320                            
321                    }
322            }
323            
324          public synchronized void saveBatch() throws SQLException{          public synchronized void saveBatch() throws SQLException{
325                  saveStmt.executeBatch();                  saveStmt.executeBatch();
326                  batchCount = 0;                  batchCount = 0;
# Line 255  public class Database { Line 334  public class Database {
334                  Constants consts = Constants.getInstance();                  Constants consts = Constants.getInstance();
335    
336                  //logger.info("Starting query");                  //logger.info("Starting query");
337                  ResultSet res = stmt.executeQuery();                  try ( ResultSet res = stmt.executeQuery() ) {
338                  //logger.info("Starting exec query done");                  
   
                 while (res.next()) {  
                           
                         double latitude = res.getDouble(7);  
                         double longitude = res.getDouble(8);  
339    
340                                                    while (res.next()) {
341                          Address adr = new Address(latitude,longitude);                                  
342                                    
343                          adr.id = res.getInt(1);                                  double latitude = res.getDouble(7);
344                          adr.postnr = res.getShort(2);                                  double longitude = res.getDouble(8);
345                          adr.vejnavn = vejnavnCache.getInstance( res.getString(3) );          
346                          adr.gadeid = res.getInt(4);                                  
347                          adr.husnr = res.getShort(5);                                  Address adr = new Address(latitude,longitude);
348                          adr.husnrbogstav = husnrbogstavCache.getInstance( res.getString(6) );          
349                          //adr.latitude = res.getDouble(7);                                  adr.id = res.getInt(1);
350                          //adr.longitude = res.getDouble(8);                                  adr.postnr = res.getShort(2);
351                          adr.ruteMandag =  ruteCache.getInstance( res.getString(9) );                                  adr.vejnavn = vejnavnCache.getInstance( res.getString(3) );
352                          adr.ho = res.getShort(10);                                  adr.gadeid = res.getInt(4);
353                                    adr.husnr = res.getShort(5);
354                          list.add(adr);                                  adr.husnrbogstav = husnrbogstavCache.getInstance( res.getString(6) );
355                                    //adr.latitude = res.getDouble(7);
356                          if (consts.doCheckHO() == true && adr.ho == 0) {                                  //adr.longitude = res.getDouble(8);
357                                  System.out.println( "Mangler HO" );                                  adr.ruteMandag =  ruteCache.getInstance( res.getString(9) );
358                                  System.out.println( adr );                                  adr.ho = res.getShort(10);
359                                  System.exit(0);          
360                                    
361                                    if (consts.validatePostnr(adr.postnr) == false) {//delegate to Constants implementations to validate whether we should look at this address
362                                            continue;
363                                    }
364                                    
365                                    list.add(adr);
366            
367                                    if (consts.doCheckHO() == true && adr.ho == 0) {
368                                            logger.info( "Mangler HO: " + adr );
369                                            throw new RuntimeException("Mangler HO: "+ adr);
370                                    }
371            
372                                    //logger.info( "Adress:" + adr);
373                          }                          }
374            
375                          //logger.info( "Adress:" + adr);                          res.close();
376                            stmt.close();
377            
378                            return list;
379                  }                  }
   
                 res.close();  
                 stmt.close();  
   
                 return list;  
380          }          }
381                                    
382  }  }
Legend:
Removed from v.2878  
changed lines
  Added in v.2927
  ViewVC Help
Powered by ViewVC 1.1.20