/[projects]/dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/afstandandenrute/DatabaseRouteDistance.java
ViewVC logotype

Diff of /dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/afstandandenrute/DatabaseRouteDistance.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2878 by torben, Sat Jan 30 14:05:53 2016 UTC revision 2922 by torben, Thu Feb 4 15:37:14 2016 UTC
# Line 5  import java.sql.Connection; Line 5  import java.sql.Connection;
5  import java.sql.PreparedStatement;  import java.sql.PreparedStatement;
6  import java.sql.ResultSet;  import java.sql.ResultSet;
7  import java.sql.SQLException;  import java.sql.SQLException;
8    import java.sql.Statement;
9  import java.util.ArrayList;  import java.util.ArrayList;
10  import java.util.HashMap;  import java.util.HashMap;
11  import java.util.List;  import java.util.List;
# Line 13  import java.util.Queue; Line 14  import java.util.Queue;
14  import java.util.Set;  import java.util.Set;
15  import java.util.TreeSet;  import java.util.TreeSet;
16  import java.util.concurrent.ConcurrentLinkedQueue;  import java.util.concurrent.ConcurrentLinkedQueue;
 import java.util.logging.Logger;  
17    
18  import dk.daoas.adressevedligehold.beans.Address;  import dk.daoas.adressevedligehold.beans.Address;
19    import dk.daoas.adressevedligehold.tasks.TaskLogger;
20  import dk.daoas.adressevedligehold.util.DeduplicateHelper;  import dk.daoas.adressevedligehold.util.DeduplicateHelper;
21    import edu.umd.cs.findbugs.annotations.SuppressFBWarnings;
22    
23    
24    
25  public class Database {  public class Database {
26          Logger logger = Logger.getLogger(Database.class.getName());          private TaskLogger logger = TaskLogger.getInstance();
27    
28          int batchCount = 0;          int batchCount = 0;
29    
# Line 51  public class Database { Line 53  public class Database {
53          public Database(Connection conn)  throws SQLException,IOException {          public Database(Connection conn)  throws SQLException,IOException {
54                  this.conn = conn;                  this.conn = conn;
55    
56                  String sql = "INSERT INTO fulddaekning.afstand_anden_rute_ny (orgId,orgPostnr, orgAddress,orgGadeid,orgHusnr,orgHusnrBogstav,orgRute,id,postnr,Address,gadeid,husnr,husnrbogstav,rute,afstand,`timestamp`) "+                  String sql = "INSERT INTO fulddaekning.afstand_anden_rute_ny (orgId,orgPostnr, orgAdresse,orgGadeid,orgHusnr,orgHusnrBogstav,orgRute,id,postnr,adresse,gadeid,husnr,husnrbogstav,rute,afstand,`timestamp`) "+
57                                  "VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?,?, now() )";                                  "VALUES (?,?,?,?,?,?,?,?,?,?,?,?,?,?,?, now() )";
58    
59                  saveStmt = conn.prepareStatement(sql);                            saveStmt = conn.prepareStatement(sql);          
# Line 59  public class Database { Line 61  public class Database {
61          }          }
62    
63          public void resetResultTable() throws SQLException {          public void resetResultTable() throws SQLException {
64                  logger.info("Dropping old result table (if exists)");                  try (Statement stmt = conn.createStatement()) {
65                  String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_ny";                          logger.info("Dropping old result table (if exists)");
66                  conn.createStatement().executeUpdate(sql);                          String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_ny";
67                                            stmt.executeUpdate(sql);
68                  logger.info("Create new result table");                          
69                  sql = "CREATE TABLE fulddaekning.afstand_anden_rute_ny LIKE fulddaekning.afstand_anden_rute";                          logger.info("Create new result table");
70                  conn.createStatement().executeUpdate(sql);                                        sql = "CREATE TABLE fulddaekning.afstand_anden_rute_ny LIKE fulddaekning.afstand_anden_rute";
71                            stmt.executeUpdate(sql);                
72                            
73                    }
74          }                }      
75                    
76            @SuppressFBWarnings("SQL_NONCONSTANT_STRING_PASSED_TO_EXECUTE")
77          public void renameResultTables() throws SQLException {          public void renameResultTables() throws SQLException {
78                  if (AfstandAndenRuteTask.test_mode == true) {                  if (AfstandAndenRuteTask.test_mode == true) {
79                          throw new RuntimeException("Can not rename tables in test mode");                          throw new RuntimeException("Can not rename tables in test mode");
80                  }                  }
   
                 Constants consts = Constants.getInstance();  
                 String ext = consts.getTableExtension();  
81                                    
82                  logger.info("Dropping old backup table (if exists)");                  Constants consts = Constants.getInstance();
                 String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_old" + ext;  
                 conn.createStatement().executeUpdate(sql);  
83                                    
84                  logger.info("Rename tables");                  try (Statement stmt = conn.createStatement()) {
85                  String sql2 = "RENAME TABLE fulddaekning.afstand_anden_rute" + ext + " TO fulddaekning.afstand_anden_rute_old" + ext + ", fulddaekning.afstand_anden_rute_ny TO fulddaekning.afstand_anden_rute" + ext;                          
86                            String ext = consts.getTableExtension();
87                            
88                            logger.info("Dropping old backup table (if exists)");
89                            String sql = "DROP TABLE IF EXISTS fulddaekning.afstand_anden_rute_old" + ext;
90                            stmt.executeUpdate(sql);
91                            
92                            logger.info("Rename tables");
93                            String sql2 = "RENAME TABLE fulddaekning.afstand_anden_rute" + ext + " TO fulddaekning.afstand_anden_rute_old" + ext + ", fulddaekning.afstand_anden_rute_ny TO fulddaekning.afstand_anden_rute" + ext;
94    
95                            logger.info("Executing: " + sql2);
96                            stmt.executeUpdate(sql2);                      
97                    }
98    
99                  logger.info("Executing: " + sql2);                  
                 conn.createStatement().executeUpdate(sql2);              
100          }          }
101                    
102          public BoundingBox getBoundingbox(short postnr)  {          public BoundingBox getBoundingbox(short postnr)  {
103                  BoundingBox bb = bbCache.get(postnr);                  BoundingBox bb = bbCache.get(postnr);
104                  return bb.clone();//never return the original / cached object                  return new BoundingBox(bb); //never return the original / cached object
105          }          }
106                    
107                    
# Line 103  public class Database { Line 115  public class Database {
115                  logger.info("Henter alle IKKE-daekkede Addressr");                  logger.info("Henter alle IKKE-daekkede Addressr");
116    
117                  String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +                  String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +
118                                  "FROM fulddaekning.Addresstabel a " +                                  "FROM fulddaekning.adressetabel a " +
119                                  "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +                                  "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +
120                                  "WHERE ruteMa IS NULL " +  //Ingen dækning                                  "WHERE ruteMa IS NULL " +  //Ingen dækning
121                                  "AND a.postnr BETWEEN ? AND ? " +                                  "AND a.postnr BETWEEN ? AND ? " +
122                                  "AND latitude IS NOT NULL " +                                  "AND latitude IS NOT NULL " +
123                                  "AND longitude IS NOT NULL " +                                  "AND longitude IS NOT NULL " +
124                                  "AND gadeid IS NOT NULL " +                                  "AND gadeid IS NOT NULL " +
125                                  "AND (a.distributor IS NULL OR a.distributor<>'LUKKET') "                                  "AND (a.distributor IS NULL OR a.distributor<>'LUKKET') " +
126                                    "ORDER BY gadeid "
127                                  ;                                                ;              
128                                    
129                  if (AfstandAndenRuteTask.test_mode == true) {                  if (AfstandAndenRuteTask.test_mode == true) {
130                          sql = sql + " LIMIT 100 ";                          sql = sql + " LIMIT 100 ";
131                  }                  }
132                                    
133                  PreparedStatement stmt = conn.prepareStatement(sql);                  try (PreparedStatement stmt = conn.prepareStatement(sql)) {
                 stmt.setInt(1, minPostnr);  
                 stmt.setInt(2, maxPostnr);  
   
                 List<Address> list = hentAdresseListe( stmt );  
                 alleIkkeDaekkede = list.toArray( new Address[ list.size() ] );  
                   
                 logger.info("Analyserer ikke-daekkede Addressr");  
                   
                 for (Address a : alleIkkeDaekkede) {  
134                                                    
135                    
136                            stmt.setInt(1, minPostnr);
137                            stmt.setInt(2, maxPostnr);
138            
139                            List<Address> list = hentAdresseListe( stmt );
140                            alleIkkeDaekkede = list.toArray( new Address[ list.size() ] );
141                                                    
142                          BoundingBox bbox;                          logger.info("Analyserer ikke-daekkede Addressr");
143                                                    
144                          if (! postnumre.contains(a.postnr )) {                          for (Address a : alleIkkeDaekkede) {
145                                  postnumre.add( a.postnr );                                  
146                                                                    
147                                  bbox = new BoundingBox();                                  BoundingBox bbox;
148                                    
149                                    if (! postnumre.contains(a.postnr )) {
150                                            postnumre.add( a.postnr );
151                                            
152                                            bbox = new BoundingBox();
153                                            
154                                            bbCache.put( a.postnr, bbox);                                                                                  
155                                            
156                                    } else {
157                                             bbox = bbCache.get( a.postnr);
158                                    }
159                                    
160                                    bbox.latitudeMax = Math.max(bbox.latitudeMax, a.latitude);
161                                    bbox.latitudeMin = Math.min(bbox.latitudeMin, a.latitude);
162                                    bbox.longitudeMax = Math.max(bbox.longitudeMax, a.longitude);
163                                    bbox.longitudeMin = Math.min(bbox.longitudeMin, a.longitude);
164                                                                    
                                 bbCache.put( a.postnr, bbox);                                                                                    
165                                                                    
                         } else {  
                                  bbox = bbCache.get( a.postnr);  
166                          }                          }
167                                                    return new ConcurrentLinkedQueue<Address>( list );
                         bbox.latitudeMax = Math.max(bbox.latitudeMax, a.latitude);  
                         bbox.latitudeMin = Math.min(bbox.latitudeMin, a.latitude);  
                         bbox.longitudeMax = Math.max(bbox.longitudeMax, a.longitude);  
                         bbox.longitudeMin = Math.min(bbox.longitudeMin, a.longitude);  
                           
                           
168                  }                  }
                 return new ConcurrentLinkedQueue<Address>( list );  
169          }          }
170                    
171    
# Line 163  public class Database { Line 179  public class Database {
179                                    
180                  if ( alleAddressr == null ) {                  if ( alleAddressr == null ) {
181                          String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +                          String sql = "SELECT id,a.postnr,vejnavn,gadeid,husnr,husnrbogstav,latitude,longitude,ruteMa,p.distributor as ho " +
182                                          "FROM fulddaekning.Addresstabel a " +                                          "FROM fulddaekning.adressetabel a " +
183                                          "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +                                          "LEFT JOIN bogleveringer.postnummerdistributor p on (a.postnr=p.postnr) " +
184                                          "WHERE ruteMa IS NOT NULL " +                                          "WHERE ruteMa IS NOT NULL " +
185                                          "AND latitude IS NOT NULL " +                                          "AND latitude IS NOT NULL " +
# Line 175  public class Database { Line 191  public class Database {
191                          }                          }
192                    
193                          // Forward only + concur_read_only + fetchsize tvinger driver til at hente en række af gangen (bedre performance ved store result sets)                          // Forward only + concur_read_only + fetchsize tvinger driver til at hente en række af gangen (bedre performance ved store result sets)
194                          // Se http://dev.mysql.com/doc/connector-j/en/connector-j-reference-implementation-notes.html                          // Se http://dev.mysql.com/doc/connector-j/en/connector-j-reference-implementation-notes.html
                         PreparedStatement stmt = conn.prepareStatement(sql, java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);  
                         stmt.setFetchSize(Integer.MIN_VALUE);  
           
                         stmt.setString(1, distributor);  
           
                         List<Address> list = hentAdresseListe( stmt );  
                           
                         alleAddressr = new ArrayList<Address>();  
                         alleAddressr.addAll(list);  
195                                                    
196                          for(Address addr : list) {                          try (PreparedStatement stmt = conn.prepareStatement(sql, java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY)) {
197                                  short ho = addr.ho;                                  stmt.setFetchSize(Integer.MIN_VALUE);
198                                  List<Address> hoListe = daekkedeAddressrHO.get(ho);                  
199                                  if ( hoListe == null) {                                  stmt.setString(1, distributor);
200                                          hoListe = new ArrayList<Address>();                  
201                                          daekkedeAddressrHO.put(ho, hoListe);                                                                      List<Address> list = hentAdresseListe( stmt );
                                 }  
202                                                                    
203                                  hoListe.add(addr);                                                                                                alleAddressr = new ArrayList<Address>();
204                                    alleAddressr.addAll(list);
205                                                                    
206                                    for(Address addr : list) {
207                                            short ho = addr.ho;
208                                            List<Address> hoListe = daekkedeAddressrHO.get(ho);
209                                            if ( hoListe == null) {
210                                                    hoListe = new ArrayList<Address>();
211                                                    daekkedeAddressrHO.put(ho, hoListe);                                    
212                                            }
213                                            
214                                            hoListe.add(addr);                                                              
215                                            
216                                    }
217                          }                          }
218                  }                  }
219                                    
220                  return alleAddressr.size();                  return alleAddressr.size();
221                    
222          }          }
223                    
224                    
# Line 255  public class Database { Line 274  public class Database {
274                  Constants consts = Constants.getInstance();                  Constants consts = Constants.getInstance();
275    
276                  //logger.info("Starting query");                  //logger.info("Starting query");
277                  ResultSet res = stmt.executeQuery();                  try ( ResultSet res = stmt.executeQuery() ) {
278                  //logger.info("Starting exec query done");                  
   
                 while (res.next()) {  
                           
                         double latitude = res.getDouble(7);  
                         double longitude = res.getDouble(8);  
   
                           
                         Address adr = new Address(latitude,longitude);  
279    
280                          adr.id = res.getInt(1);                          while (res.next()) {
281                          adr.postnr = res.getShort(2);                                  
282                          adr.vejnavn = vejnavnCache.getInstance( res.getString(3) );                                  double latitude = res.getDouble(7);
283                          adr.gadeid = res.getInt(4);                                  double longitude = res.getDouble(8);
284                          adr.husnr = res.getShort(5);          
285                          adr.husnrbogstav = husnrbogstavCache.getInstance( res.getString(6) );                                  
286                          //adr.latitude = res.getDouble(7);                                  Address adr = new Address(latitude,longitude);
287                          //adr.longitude = res.getDouble(8);          
288                          adr.ruteMandag =  ruteCache.getInstance( res.getString(9) );                                  adr.id = res.getInt(1);
289                          adr.ho = res.getShort(10);                                  adr.postnr = res.getShort(2);
290                                    adr.vejnavn = vejnavnCache.getInstance( res.getString(3) );
291                          list.add(adr);                                  adr.gadeid = res.getInt(4);
292                                    adr.husnr = res.getShort(5);
293                          if (consts.doCheckHO() == true && adr.ho == 0) {                                  adr.husnrbogstav = husnrbogstavCache.getInstance( res.getString(6) );
294                                  System.out.println( "Mangler HO" );                                  //adr.latitude = res.getDouble(7);
295                                  System.out.println( adr );                                  //adr.longitude = res.getDouble(8);
296                                  System.exit(0);                                  adr.ruteMandag =  ruteCache.getInstance( res.getString(9) );
297                                    adr.ho = res.getShort(10);
298            
299                                    list.add(adr);
300            
301                                    if (consts.doCheckHO() == true && adr.ho == 0) {
302                                            logger.info( "Mangler HO: " + adr );
303                                            throw new RuntimeException("Mangler HO: "+ adr);
304                                    }
305            
306                                    //logger.info( "Adress:" + adr);
307                          }                          }
308            
309                          //logger.info( "Adress:" + adr);                          res.close();
310                            stmt.close();
311            
312                            return list;
313                  }                  }
   
                 res.close();  
                 stmt.close();  
   
                 return list;  
314          }          }
315                                    
316  }  }
Legend:
Removed from v.2878  
changed lines
  Added in v.2922
  ViewVC Help
Powered by ViewVC 1.1.20