/[projects]/dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/Lookup.java
ViewVC logotype

Diff of /dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/Lookup.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 2149 by torben, Wed Apr 30 14:18:43 2014 UTC revision 2195 by torben, Thu Jun 19 10:56:04 2014 UTC
# Line 2  package dk.daoas.fulddaekning; Line 2  package dk.daoas.fulddaekning;
2    
3  import java.io.File;  import java.io.File;
4  import java.io.FileReader;  import java.io.FileReader;
5    import java.util.ArrayList;
6    import java.util.List;
7  import java.util.Map;  import java.util.Map;
8  import java.util.Properties;  import java.util.Properties;
9    import java.util.Queue;
10  import java.util.concurrent.ConcurrentHashMap;  import java.util.concurrent.ConcurrentHashMap;
11  import java.util.logging.Level;  import java.util.logging.Level;
12  import java.util.logging.Logger;  import java.util.logging.Logger;
# Line 11  import java.util.logging.Logger; Line 14  import java.util.logging.Logger;
14  import dk.daoas.fulddaekning.BoundingBox.BoundingBoxException;  import dk.daoas.fulddaekning.BoundingBox.BoundingBoxException;
15    
16  public class Lookup {  public class Lookup {
17    
18            static final String CONFIG_FILENAME = "fulddaekning.properties";
19    
20          static int max_workers;          static int max_workers;
21          static boolean verbose;          static boolean verbose;
22                    
23          static Properties conf;          static boolean rename_tables;
24            
25            static SafeProperties conf;
26          static Logger logger = Logger.getLogger( Lookup.class.toString() );          static Logger logger = Logger.getLogger( Lookup.class.toString() );
27                    
28            int postnr;
29          Database db;          Database db;
30          WorkSet workset;                  
31            ArrayList<Adresse> daekkedeAdresser;
32            Queue<Adresse> queue;
33                    
34          Map<Integer, LookupWorker> workers = new ConcurrentHashMap<Integer, LookupWorker>();          Map<Integer, LookupWorker> workers = new ConcurrentHashMap<Integer, LookupWorker>();
35    
36                    
37            static Statistik flestDaekkede = new Statistik();
38            static Statistik flestIkkeDaekkede = new Statistik();
39                    
40          public Lookup(WorkSet workset, Database db) {          
41                  this.db = db;          static class Statistik {
42                  this.workset = workset;                  int postnr;
43                    int antalDaekkede = 0;
44                    int antalIkkeDaekkede = 0;
45                    
46                    @Override
47                    public String toString() {
48                            return "postnr=" + postnr + " antalIkkeDaekkede=" + antalIkkeDaekkede + " antalDaekkede="  + antalDaekkede;
49                    }
50          }          }
51                    
52                    
53            public Lookup(int postnr, Database db) {
54                    this.postnr = postnr;
55                    this.db = db;
56            }
57            
58            public static void saveStatistics(Statistik stat) {
59                    if (stat.antalDaekkede > flestDaekkede.antalDaekkede) {
60                            flestDaekkede = stat;
61                    }
62                    if (stat.antalIkkeDaekkede > flestIkkeDaekkede.antalIkkeDaekkede) {
63                            flestIkkeDaekkede = stat;
64                    }              
65            }
66                    
67          public void doLookup() throws BoundingBoxException {          public void doLookup() throws BoundingBoxException {
68                  logger.info("Starting for postnr=" + workset.postnr);                            logger.info("Starting for postnr=" + postnr);
69                                    
70                    Statistik stat = new Statistik();
71                                    
72                  long start1 = System.currentTimeMillis();                                long start1 = System.currentTimeMillis();              
73                  long start2 = 0;                  long start2 = 0;
74                                    
75                  try {                  try {
76                            BoundingBox bbox = db.getBoundingbox(postnr);
77                          logger.info("Starter beregning for " + workset.postnr);                          bbox.validateBbox();
78                            
79                            logger.info("Bbox=" + bbox);
80                            bbox.adjustToMargin();
81                            logger.info("Bbox Adjusted=" + bbox);
82                            
83                            logger.info("Henter daekkede adresser i " + postnr);
84                            daekkedeAdresser = db.hentDaekkedeAdresser(bbox);
85                            
86                            logger.info("Henter _ikke_ daekkede adresser i " + postnr);
87                            queue = db.hentIkkedaekkedeAdresser(postnr);
88                            
89                            stat.postnr = postnr;
90                            stat.antalDaekkede = daekkedeAdresser.size();
91                            stat.antalIkkeDaekkede = queue.size();
92                            
93                            saveStatistics(stat);
94                                                    
95                            
96                            logger.info("Starter beregning for " + postnr);
97                          start2 = System.currentTimeMillis();                          start2 = System.currentTimeMillis();
98                                                                                                                                                                                                                                    
99                          for (int i =0; i<max_workers; i++) {                          for (int i =0; i<max_workers; i++) {
# Line 68  public class Lookup { Line 121  public class Lookup {
121                  long now = System.currentTimeMillis();                  long now = System.currentTimeMillis();
122                                    
123    
124                  logger.info("Antal daekkede:" + workset.daekkedeAdresser.size() );                  logger.info( stat.toString() );
125                  logger.info("Antal ikke-daekkede:" + workset.queueSize );                  logger.info("Done! elapsed=" + (now-start1) + "/" +  (now-start2) + "  postnr=" + postnr);
                 logger.info("Done! elapsed=" + (now-start1) + "/" +  (now-start2) );  
126          }          }
127                    
128          public void shutdownWorker(int workerid) {          public void shutdownWorker(int workerid) {
# Line 84  public class Lookup { Line 136  public class Lookup {
136          public Database getDb() {          public Database getDb() {
137                  return db;                  return db;
138          }          }
139            
140          public WorkSet getWorkSet() {  
141                  return workset;  
142            public ArrayList<Adresse> getDaekkedeAdresser() {
143                    return daekkedeAdresser;
144            }
145    
146            public Queue<Adresse> getQueue() {
147                    return queue;
148          }          }
149    
150    
151            
152            
153            
154                    
155          /////////////////////////////          /////////////////////////////
156          // Static functions          // Static functions
# Line 98  public class Lookup { Line 160  public class Lookup {
160                    
161          public static void main(String[] args) throws Exception {          public static void main(String[] args) throws Exception {
162                                    
163                  File confFile = new File("fulddaekning.properties");                  File confFile = new File( CONFIG_FILENAME );
164                  if (! confFile.exists() ) {                  if (! confFile.exists() ) {
165                          logger.warning("Config file not found");                          logger.warning("Config file not found: " + CONFIG_FILENAME);
166                          System.exit(1);                          System.exit(1);
167                  }                  }
168                                                                    
169                  conf = new Properties();                  conf = new SafeProperties();
170                  conf.load( new FileReader(confFile) );                  conf.load( new FileReader(confFile) );
171                                    
172                  max_workers = Integer.parseInt( conf.getProperty("MAX_WORKERS") );                  max_workers = Integer.parseInt( conf.getSafeProperty("MAX_WORKERS") );
173                  logger.info("Starting with MAX_WORKERS:" + max_workers);                  logger.info("Starting with MAX_WORKERS:" + max_workers);
174                                    
175                  verbose = Boolean.parseBoolean( conf.getProperty("VERBOSE") );                  verbose = Boolean.parseBoolean( conf.getSafeProperty("VERBOSE") );
176                  logger.info("Starting with VERBOSE:" + verbose);                  logger.info("Starting with VERBOSE:" + verbose);
177                                    
178                    rename_tables = Boolean.parseBoolean( conf.getSafeProperty("RENAMETABLES") );
179                    logger.info("Starting with RENAMETABLES:" + rename_tables);
180                    
181                  Database db = new Database(conf);                  Database db = new Database(conf);
182                    
183                  db.resetResultTable();                  db.resetResultTable();
184    
185                                    
                 InputWorker inputWorker = new InputWorker(db);  
                 Thread inputThread = new Thread(inputWorker);  
                 inputThread.start();  
186                                    
187                                    
                 long start = System.currentTimeMillis();  
                 boolean doContinue = true;  
                   
                 while (inputWorker.queue.isEmpty() == true) {  
                         Thread.sleep(3); //Vent indtil at første arbejds sæt er på plads  
                 }  
188                                    
189                    long start = System.currentTimeMillis();
190                                    
191                  while ( doContinue == true ) {                  logger.info("Finder postnumre");
                         WorkSet set = inputWorker.queue.poll();  
                           
                         if (set != null) {  
                                 Lookup lookup = new Lookup(set, db);  
                                 lookup.doLookup();                                
                         } else {  
                                 System.out.println("Buffer underrun");  
                                 Thread.sleep(100);  
                         }  
                           
                         if ( inputWorker.isDone == true && inputWorker.queue.isEmpty() == true)  
                                 doContinue = false;  
                 }  
                   
                 /*logger.info("Finder postnumre");  
192                  List<Integer> postnumre = db.hentPostnumre();                  List<Integer> postnumre = db.hentPostnumre();
193                                    
194                  for(Integer postnr : postnumre) {                  for(Integer postnr : postnumre) {
195                          Lookup lookup = new Lookup(postnr, db);                          Lookup lookup = new Lookup(postnr, db);
196                          lookup.doLookup();                                                lookup.doLookup();                      
197                  }*/                  }
198                                    
199                  long now = System.currentTimeMillis();                  if (rename_tables) {
200                            db.renameResultTables();
201                    } else {
202                            logger.info( "Rename tables is disabled !!!" );
203                    }
204                                    
205                  logger.info("Largest workset: " + inputWorker.largestWorkSetPostnr + "=" + inputWorker.largestWorkSetCount);                  long now = System.currentTimeMillis();
206    
207                    logger.info("Flest Ikke-dækkede, " + flestIkkeDaekkede);
208                    logger.info("Flest Dækkede, " + flestDaekkede);
209                  logger.info("Fuld load done : " + (now-start) );                  logger.info("Fuld load done : " + (now-start) );
210    
211                                    
212                                    
213                  //Lookup lookup = new Lookup(7400, db);                  //Lookup lookup = new Lookup(7400, db);
214                  //lookup.doLookup();                              //lookup.doLookup();            
215          }          }
216                            
   
           
217  }  }
Legend:
Removed from v.2149  
changed lines
  Added in v.2195
  ViewVC Help
Powered by ViewVC 1.1.20