/[projects]/dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/Lookup.java
ViewVC logotype

Diff of /dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/Lookup.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2153 by torben, Wed May 7 16:07:46 2014 UTC revision 2214 by torben, Fri Sep 12 06:42:29 2014 UTC
# Line 2  package dk.daoas.fulddaekning; Line 2  package dk.daoas.fulddaekning;
2    
3  import java.io.File;  import java.io.File;
4  import java.io.FileReader;  import java.io.FileReader;
 import java.util.ArrayList;  
5  import java.util.List;  import java.util.List;
6  import java.util.Map;  import java.util.Map;
 import java.util.Properties;  
7  import java.util.Queue;  import java.util.Queue;
8  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
9    import java.util.logging.FileHandler;
10  import java.util.logging.Level;  import java.util.logging.Level;
11  import java.util.logging.Logger;  import java.util.logging.Logger;
12    import java.util.logging.SimpleFormatter;
13    
14  import dk.daoas.fulddaekning.BoundingBox.BoundingBoxException;  import dk.daoas.fulddaekning.BoundingBox.BoundingBoxException;
15    
16  public class Lookup {  public class Lookup {
17    
18            static final String CONFIG_FILENAME = "fulddaekning.properties";
19    
20          static int max_workers;          static int max_workers;
21          static boolean verbose;          static boolean verbose;
22                    
23          static Properties conf;          static boolean rename_tables;
24            static String distributor;
25            
26            static SafeProperties conf;
27          static Logger logger = Logger.getLogger( Lookup.class.toString() );          static Logger logger = Logger.getLogger( Lookup.class.toString() );
28                    
29          int postnr;          int postnr;
30          Database db;          Database db;
31                                    
32          ArrayList<Adresse> daekkedeAdresser;          Adresse daekkedeAdresser[];
33          Queue<Adresse> queue;          Queue<Adresse> queue;
34                    
35          Map<Integer, LookupWorker> workers = new ConcurrentHashMap<Integer, LookupWorker>();          Map<Integer, LookupWorker> workers = new ConcurrentHashMap<Integer, LookupWorker>();
36    
         static int flestDaekkedeAntal = 0;  
         static int flestDaekkedePostnr;  
37                    
38          static int flestIkkeDaekkedeAntal = 0;          static Statistik flestDaekkede = new Statistik();
39          static int flestIkkeDaekkedePostnr;          static Statistik flestIkkeDaekkede = new Statistik();
40            
41            
42            static class Statistik {
43                    int postnr;
44                    int antalDaekkede = 0;
45                    int antalIkkeDaekkede = 0;
46                    
47                    @Override
48                    public String toString() {
49                            return "postnr=" + postnr + " antalIkkeDaekkede=" + antalIkkeDaekkede + " antalDaekkede="  + antalDaekkede;
50                    }
51            }
52                    
53                    
54          public Lookup(int postnr, Database db) {          public Lookup(int postnr, Database db) {
# Line 40  public class Lookup { Line 56  public class Lookup {
56                  this.db = db;                  this.db = db;
57          }          }
58                    
59                    public static void saveStatistics(Statistik stat) {
60                    if (stat.antalDaekkede > flestDaekkede.antalDaekkede) {
61                            flestDaekkede = stat;
62                    }
63                    if (stat.antalIkkeDaekkede > flestIkkeDaekkede.antalIkkeDaekkede) {
64                            flestIkkeDaekkede = stat;
65                    }              
66            }
67                    
68          public void doLookup() throws BoundingBoxException {          public void doLookup() throws BoundingBoxException {
69                  logger.info("Starting for postnr=" + postnr);                  logger.info("Starting for postnr=" + postnr);
70                                    
71                  int queueSize=-1;                  Statistik stat = new Statistik();
72                                                    
73                  long start1 = System.currentTimeMillis();                                long start1 = System.currentTimeMillis();              
74                  long start2 = 0;                  long start2 = 0;
75                                    
# Line 63  public class Lookup { Line 86  public class Lookup {
86                                                    
87                          logger.info("Henter _ikke_ daekkede adresser i " + postnr);                          logger.info("Henter _ikke_ daekkede adresser i " + postnr);
88                          queue = db.hentIkkedaekkedeAdresser(postnr);                          queue = db.hentIkkedaekkedeAdresser(postnr);
                         queueSize = queue.size();  
                           
                         if (daekkedeAdresser.size() > flestDaekkedeAntal) {  
                                 flestDaekkedeAntal = daekkedeAdresser.size();  
                                 flestDaekkedePostnr = postnr;  
                         }  
89                                                    
90                          if (queueSize > flestIkkeDaekkedeAntal) {                          stat.postnr = postnr;
91                                  flestIkkeDaekkedeAntal = queueSize;                          stat.antalDaekkede = daekkedeAdresser.length;
92                                  flestIkkeDaekkedePostnr = postnr;                          stat.antalIkkeDaekkede = queue.size();
                         }  
93                                                    
94                            saveStatistics(stat);
95                                                    
96                                                    
97                          logger.info("Starter beregning for " + postnr);                          logger.info("Starter beregning for " + postnr);
98                          start2 = System.currentTimeMillis();                          start2 = System.currentTimeMillis();
# Line 103  public class Lookup { Line 121  public class Lookup {
121                  }                  }
122                  long now = System.currentTimeMillis();                  long now = System.currentTimeMillis();
123                                    
124                  logger.info("Antal daekkede:" + daekkedeAdresser.size() + "  postnr=" + postnr);  
125                  logger.info("Antal ikke-daekkede:" + queueSize + "  postnr=" + postnr);                  logger.info( stat.toString() );
                   
126                  logger.info("Done! elapsed=" + (now-start1) + "/" +  (now-start2) + "  postnr=" + postnr);                  logger.info("Done! elapsed=" + (now-start1) + "/" +  (now-start2) + "  postnr=" + postnr);
127          }          }
128                    
129          public void shutdownWorker(int workerid) {          public void shutdownWorker(int workerid) {
130                  logger.info("Shutting down worker: " + workerid);                  logger.info("Shutting down worker: " + workerid);
131                  workers.remove(workerid);                  LookupWorker key = workers.remove(workerid);
132                    
133                    if (key == null) {
134                            System.out.println("Error removing worker from set");
135                            System.exit(0);
136                    }
137          }          }
138                    
139          // Getters and setters          // Getters and setters
# Line 123  public class Lookup { Line 145  public class Lookup {
145    
146    
147    
148          public ArrayList<Adresse> getDaekkedeAdresser() {          public Adresse[] getDaekkedeAdresser() {
149                  return daekkedeAdresser;                  return daekkedeAdresser;
150          }          }
151    
# Line 144  public class Lookup { Line 166  public class Lookup {
166                    
167          public static void main(String[] args) throws Exception {          public static void main(String[] args) throws Exception {
168                                    
169                  File confFile = new File("fulddaekning.properties");                  //Setup j.u.l Logger
170                    Logger root = Logger.getLogger("");
171                    FileHandler fhandler = new FileHandler("fulddaekning.log"); // Ingen max størrelse, ingen rotation og ingen append
172                    fhandler.setFormatter( new SimpleFormatter() );
173                    root.addHandler( fhandler );
174                    
175                    
176                    
177                    
178                    
179                    File confFile = new File( CONFIG_FILENAME );
180                  if (! confFile.exists() ) {                  if (! confFile.exists() ) {
181                          logger.warning("Config file not found");                          logger.warning("Config file not found: " + CONFIG_FILENAME);
182                          System.exit(1);                          System.exit(1);
183                  }                  }
184                                                                    
185                  conf = new Properties();                  conf = new SafeProperties();
186                  conf.load( new FileReader(confFile) );                  conf.load( new FileReader(confFile) );
187                                    
188                  max_workers = Integer.parseInt( conf.getProperty("MAX_WORKERS") );                  max_workers = Integer.parseInt( conf.getSafeProperty("MAX_WORKERS") );
189                  logger.info("Starting with MAX_WORKERS:" + max_workers);                  logger.info("Starting with MAX_WORKERS:" + max_workers);
190                                    
191                  verbose = Boolean.parseBoolean( conf.getProperty("VERBOSE") );                  verbose = Boolean.parseBoolean( conf.getSafeProperty("VERBOSE") );
192                  logger.info("Starting with VERBOSE:" + verbose);                  logger.info("Starting with VERBOSE:" + verbose);
193                                    
194                    rename_tables = Boolean.parseBoolean( conf.getSafeProperty("RENAMETABLES") );
195                    logger.info("Starting with RENAMETABLES:" + rename_tables);
196                    
197                    distributor = conf.getSafeProperty("DISTRIBUTOR");
198                    distributor = distributor.toUpperCase();
199                    Constants.init(distributor);
200    
201                    
202                  Database db = new Database(conf);                  Database db = new Database(conf);
203                                    
204                  db.resetResultTable();                  
205    
206                                    
207                                    
# Line 172  public class Lookup { Line 212  public class Lookup {
212                  logger.info("Finder postnumre");                  logger.info("Finder postnumre");
213                  List<Integer> postnumre = db.hentPostnumre();                  List<Integer> postnumre = db.hentPostnumre();
214                                    
215                    // Først validerer vi BBox på alle postnummre, for at undgå fuldt stop midt i beregningen
216                    for(Integer postnr : postnumre) { //
217                            logger.info("Validerer BBox for " + postnr);
218                            BoundingBox bbox = db.getBoundingbox(postnr);
219                            bbox.validateBbox();
220                    }
221                    
222                    
223                    //pre-check er ok - reset tmp tabel og start søgningen
224                    db.resetResultTable();
225                    
226                  for(Integer postnr : postnumre) {                  for(Integer postnr : postnumre) {
227                          Lookup lookup = new Lookup(postnr, db);                          Lookup lookup = new Lookup(postnr, db);
228                          lookup.doLookup();                                                lookup.doLookup();                      
229                  }                  }
230                                    
231                    if (rename_tables) {
232                            db.renameResultTables();
233                    } else {
234                            logger.info( "Rename tables is disabled !!!" );
235                    }
236                    
237                  long now = System.currentTimeMillis();                  long now = System.currentTimeMillis();
238                                    
239                    logger.info("Flest Ikke-dækkede, " + flestIkkeDaekkede);
240                    logger.info("Flest Dækkede, " + flestDaekkede);
241                  logger.info("Fuld load done : " + (now-start) );                  logger.info("Fuld load done : " + (now-start) );
242                  logger.info("Flest Ikke-dækkede, " + flestIkkeDaekkedePostnr + ": " + flestIkkeDaekkedeAntal);  
                 logger.info("Flest Dækkede, " + flestDaekkedePostnr + ": " + flestDaekkedeAntal);  
                   
243                                    
244                  //Lookup lookup = new Lookup(7400, db);                  /*
245                  //lookup.doLookup();                              /// Test
246                    db.resetResultTable();
247                    Lookup lookup = new Lookup(2750, db);
248                    lookup.doLookup();              
249                    long now = System.currentTimeMillis();
250                    logger.info("Fuld load done : " + (now-start) );*/
251          }          }
252                                    
253  }  }
Legend:
Removed from v.2153  
changed lines
  Added in v.2214
  ViewVC Help
Powered by ViewVC 1.1.20