/[projects]/dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/db/DatabaseCoverageUpdate.java
ViewVC logotype

Diff of /dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/db/DatabaseCoverageUpdate.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/db/DatabaseLayerImplementation.java revision 2847 by torben, Tue Jan 26 11:48:37 2016 UTC dao/DaoAdresseVedligehold/src/main/java/dk/daoas/adressevedligehold/db/DatabaseCoverageUpdate.java revision 3023 by torben, Tue Apr 26 18:57:25 2016 UTC
# Line 8  import java.sql.Statement; Line 8  import java.sql.Statement;
8  import java.util.ArrayList;  import java.util.ArrayList;
9  import java.util.List;  import java.util.List;
10    
11    
12    
13  import dk.daoas.adressevedligehold.beans.Address;  import dk.daoas.adressevedligehold.beans.Address;
14    import dk.daoas.adressevedligehold.beans.Address.AddressState;
15    import dk.daoas.adressevedligehold.tasks.TaskLogger;
16  import dk.daoas.adressevedligehold.util.DeduplicateHelper;  import dk.daoas.adressevedligehold.util.DeduplicateHelper;
17  import dk.daoas.adressevedligehold.util.TimingHelper;  import dk.daoas.adressevedligehold.util.TimingHelper;
18    
19  /*  /*
  * TODO: Batched skrivning af updates  
  * TODO: Skrivning af nye adresser  
20   *     *  
21   */   */
22    
23  public class DatabaseLayerImplementation  {  public class DatabaseCoverageUpdate  {
24                    
25          //static boolean DEBUG = false;          //static boolean DEBUG = false;
26                    
27            private TaskLogger logger = TaskLogger.getInstance();
28            
29                    
30          public List<Address> getAllAdresses() throws SQLException {          public List<Address> getAllAdresses() throws SQLException {
31                  TimingHelper timing = new TimingHelper();                  TimingHelper timing = new TimingHelper();
# Line 36  public class DatabaseLayerImplementation Line 40  public class DatabaseLayerImplementation
40                                  ;                                  ;
41                                    
42                  try ( Connection conn = DBConnection.getConnection();                            try ( Connection conn = DBConnection.getConnection();          
43                                  Statement stmt = conn.createStatement(java.sql.ResultSet.TYPE_FORWARD_ONLY, java.sql.ResultSet.CONCUR_READ_ONLY);                                  Statement stmt = conn.createStatement(ResultSet.TYPE_FORWARD_ONLY, ResultSet.CONCUR_READ_ONLY);
44                                  ) {                                  ) {
45                          stmt.setFetchSize(Integer.MIN_VALUE);                          stmt.setFetchSize(Integer.MIN_VALUE);
46                          ResultSet res = stmt.executeQuery(sql);                          ResultSet res = stmt.executeQuery(sql);
# Line 92  public class DatabaseLayerImplementation Line 96  public class DatabaseLayerImplementation
96                          res.close();                          res.close();
97                                                    
98                                                    
99                          System.out.println("DB Loaded " + list.size() + " adresses in " + timing.getElapsed() + "ms");                          logger.info("DB Loaded " + list.size() + " adresses in " + timing.getElapsed() + "ms");
100                                                    
101                          return list;                          return list;
102                  }                  }
103          }          }
104                    
105          private void updateAddressesBatch(List<Address> addresses)  throws SQLException {          public void saveNewAddresses(List<Address> addresses) {
106                    
107                    logger.info("DB::saveNewAddresses size:" + addresses.size() );
108                    
109                    String sql = "INSERT IGNORE INTO fulddaekning.adressetabel " +
110                                             "(vejnavn,husnr,husnrbogstav,kommunekode,vejkode,postnr,gadeid,dbkbane,indlast,aendret,david,googlechecked," +
111                                             "RuteMa,KorelisteMa,RuteTi,KorelisteTi,RuteOn,KorelisteOn,RuteTo,KorelisteTo,RuteFr,KorelisteFr,RuteLo,KorelisteLo,RuteSo,KorelisteSo, " +
112                                             "kommentar,latitude,longitude) " +
113                                             "VALUES " +
114                                             "(?,?,?,?,?,?,?,?, now(), now(), ?, 0, " +
115                                             "?,?,?,?,?,?,?,?,?,?,?,?,?,?," +
116                                             "?,?,?) ";
117                                    
118                    
119                    try (Connection con = DBConnection.getConnection()) {
120    
121                            
122                            try (PreparedStatement stmt = con.prepareStatement(sql)) {
123                                    for (Address addr : addresses) {
124                                            
125                                            String david = String.format("%04d%03d%04d", addr.postnr, addr.kommunekode, addr.vejkode);
126                                            
127                                            stmt.setString(1, addr.vejnavn);
128                                            stmt.setShort(2, addr.husnr);
129                                            stmt.setString(3, addr.husnrbogstav);
130                                            stmt.setShort(4, addr.kommunekode);
131                                            stmt.setShort(5, addr.vejkode);
132                                            stmt.setShort(6, addr.postnr);
133                                            stmt.setInt(7, addr.gadeid);
134                                            stmt.setShort(8, addr.dbkBane);
135                                            stmt.setString(9, david);
136                                            
137                                            stmt.setString(10, addr.ruteMandag);
138                                            stmt.setString(11, addr.korelisteMandag);
139                                            stmt.setString(12, addr.ruteTirsdag);
140                                            stmt.setString(13, addr.korelisteTirsdag);
141                                            stmt.setString(14, addr.ruteOnsdag);
142                                            stmt.setString(15, addr.korelisteOnsdag);
143                                            stmt.setString(16, addr.ruteTorsdag);
144                                            stmt.setString(17, addr.korelisteTorsdag);
145                                            stmt.setString(18, addr.ruteFredag);
146                                            stmt.setString(19, addr.korelisteFredag);
147                                            stmt.setString(20, addr.ruteLordag);
148                                            stmt.setString(21, addr.korelisteLordag);
149                                            stmt.setString(22, addr.ruteSondag);
150                                            stmt.setString(23, addr.korelisteSondag);
151                                            
152                                            stmt.setString(24, addr.kommentar);
153                                            
154                                            if (addr.latitude != 0.0) {
155                                                    stmt.setDouble(25, addr.latitude);
156                                            } else {
157                                                    stmt.setNull(25, java.sql.Types.DOUBLE);
158                                            }                                      
159                                            if (addr.longitude != 0.0) {
160                                                    stmt.setDouble(26, addr.longitude);
161                                            } else {
162                                                    stmt.setNull(26, java.sql.Types.DOUBLE);
163                                            }
164    
165                                            
166                                            stmt.execute();
167                                            if (stmt.getUpdateCount() != 1) {
168                                                    logger.info("Error executing insert: " + addr);
169                                                    addr.state = AddressState.CREATE_FAIL;
170                                            }
171                                            
172                                    }
173                            }
174                            
175                            //con.commit();
176                    } catch (SQLException e) {
177                            logger.warning("Error inserting addresses", e  );
178                    }
179          }          }
180                    
181          public void updateAddresses(List<Address> addresses) {          public void updateAddresses(List<Address> addresses) {
182                  System.out.println("DB::UpdateAddresses size:" + addresses.size() );                  logger.info("DB::UpdateAddresses size:" + addresses.size() );
183                                    
184                  String sql = "UPDATE fulddaekning.adressetabel " +                  /*String sql = "UPDATE fulddaekning.adressetabel " +
185                                          "SET " +                                          "SET " +
186                                          "RuteMa=?, KorelisteMa=?, " +                                          "RuteMa=?, KorelisteMa=?, " +
187                                          "RuteTi=?, KorelisteTi=?, " +                                          "RuteTi=?, KorelisteTi=?, " +
# Line 115  public class DatabaseLayerImplementation Line 191  public class DatabaseLayerImplementation
191                                          "RuteLo=?, KorelisteLo=?, " +                                          "RuteLo=?, KorelisteLo=?, " +
192                                          "RuteSo=?, KorelisteSo=?, " +                                          "RuteSo=?, KorelisteSo=?, " +
193                                      "Distributor=?, " +                                      "Distributor=?, " +
194                                      "DBKBane=? " +                                      "DBKBane=?, " +
195                                          "WHERE id=?";                                      "Aendret=now() " +
196                                            "WHERE id=? ";*/
197                    String sql = "INSERT INTO fulddaekning.adressetabel " +
198                                            "(id, " +
199                                            "RuteMa, KorelisteMa, RuteTi, KorelisteTi, RuteOn, KorelisteOn, " +
200                                            "RuteTo, KorelisteTo, RuteFr, KorelisteFr, RuteLo, KorelisteLo, " +
201                                            "RuteSo, KorelisteSo, " +
202                                            "Distributor, DBKBane, Aendret, " +
203                                            "vejnavn,husnr,husnrbogstav,kommunekode,vejkode,gadeid,postnr) \n" + //Disse har ingen default value
204                                            "VALUES " +
205                                            "(?," +
206                                            "?,?,?,?,?,?," +
207                                            "?,?,?,?,?,?," +
208                                            "?,?," +
209                                            "?,?, now(), " +
210                                            "'',0,'',0,0,0,0 ) \n" +
211                                            
212                                            "ON DUPLICATE KEY UPDATE " +
213                                            "RuteMa=VALUES(RuteMa), KorelisteMa=VALUES(KorelisteMa), " +
214                                            "RuteTi=VALUES(RuteTi), KorelisteTi=VALUES(KorelisteTi), " +
215                                            "RuteOn=VALUES(RuteOn), KorelisteOn=VALUES(KorelisteOn), " +
216                                            "RuteTo=VALUES(RuteTo), KorelisteTo=VALUES(KorelisteTo), " +
217                                            "RuteFr=VALUES(RuteFr), KorelisteFr=VALUES(KorelisteFr), " +
218                                            "RuteLo=VALUES(RuteLo), KorelisteLo=VALUES(KorelisteLo), " +
219                                            "RuteSo=VALUES(RuteSo), KorelisteSo=VALUES(KorelisteSo), " +
220                                            "Distributor=VALUES(Distributor),  " +
221                                            "DBKBane=VALUES(DBKBane)  ";
222                                            
223                                                                                    
224                                                                                    
225                                    
# Line 124  public class DatabaseLayerImplementation Line 227  public class DatabaseLayerImplementation
227                          //con.setAutoCommit(false);                          //con.setAutoCommit(false);
228                                                    
229                          try (PreparedStatement stmt = con.prepareStatement(sql)) {                          try (PreparedStatement stmt = con.prepareStatement(sql)) {
230                                    int count = 0;
231                                    
232                                  for (Address addr : addresses) {                                  for (Address addr : addresses) {
233                                          stmt.setString(1, addr.ruteMandag);                                          stmt.setInt(1, addr.id);
234                                          stmt.setString(2, addr.korelisteMandag);                                          stmt.setString(2, addr.ruteMandag);
235                                          stmt.setString(3, addr.ruteTirsdag);                                          stmt.setString(3, addr.korelisteMandag);
236                                          stmt.setString(4, addr.korelisteTirsdag);                                          stmt.setString(4, addr.ruteTirsdag);
237                                          stmt.setString(5, addr.ruteOnsdag);                                          stmt.setString(5, addr.korelisteTirsdag);
238                                          stmt.setString(6, addr.korelisteOnsdag);                                          stmt.setString(6, addr.ruteOnsdag);
239                                          stmt.setString(7, addr.ruteTorsdag);                                          stmt.setString(7, addr.korelisteOnsdag);
240                                          stmt.setString(8, addr.korelisteTorsdag);                                          stmt.setString(8, addr.ruteTorsdag);
241                                          stmt.setString(9, addr.ruteFredag);                                          stmt.setString(9, addr.korelisteTorsdag);
242                                          stmt.setString(10, addr.korelisteFredag);                                          stmt.setString(10, addr.ruteFredag);
243                                          stmt.setString(11, addr.ruteLordag);                                          stmt.setString(11, addr.korelisteFredag);
244                                          stmt.setString(12, addr.korelisteLordag);                                          stmt.setString(12, addr.ruteLordag);
245                                          stmt.setString(13, addr.ruteSondag);                                          stmt.setString(13, addr.korelisteLordag);
246                                          stmt.setString(14, addr.korelisteSondag);                                          stmt.setString(14, addr.ruteSondag);
247                                            stmt.setString(15, addr.korelisteSondag);
                                         stmt.setString(15, addr.distributor);  
                                         stmt.setInt(16, addr.dbkBane);  
                                         stmt.setInt(17, addr.id);  
248    
249                                            stmt.setString(16, addr.distributor);
250                                            stmt.setInt(17, addr.dbkBane);
251                                            
252                                                                                    
                                         stmt.execute();  
                                         if (stmt.getUpdateCount() != 1) {  
                                                 System.out.println("Error executing update");  
                                         }  
253                                                                                    
254                                            stmt.addBatch();
255                                            count++;
256                                            if ( (count%200) == 0) {
257                                                    stmt.executeBatch();
258                                                    
259                                                    if ( (count%50000) == 0 ) {
260                                                            logger.info("Update count " + count);
261                                                    }
262                                            }                                      
263                                  }                                  }
264                                    
265                                    stmt.executeBatch(); //update remainding queries
266                                    
267                          }                          }
268                                                    
269                          //con.commit();                          //con.commit();
270                  } catch (SQLException e) {                  } catch (SQLException e) {
271                          System.out.println("Error updating addresses" + e.getMessage() );                          logger.warning("Error updating addresses", e );
272                  }                  }
273          }          }
274                    
275            /*
276          private static String nullify(String str) {          private static String nullify(String str) {
277                  if (str == null)                  if (str == null)
278                          return null;                          return null;
Legend:
Removed from v.2847  
changed lines
  Added in v.3023
  ViewVC Help
Powered by ViewVC 1.1.20