/[projects]/dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/LookupMain.java
ViewVC logotype

Annotation of /dao/FuldDaekningWorker/src/dk/daoas/fulddaekning/LookupMain.java

Parent Directory Parent Directory | Revision Log Revision Log


Revision 2243 - (hide annotations) (download)
Wed Dec 10 09:58:28 2014 UTC (9 years, 5 months ago) by torben
File size: 4953 byte(s)
Add auto-detect of max-workers

1 torben 2241 package dk.daoas.fulddaekning;
2    
3     import java.io.File;
4     import java.io.FileReader;
5     import java.util.List;
6     import java.util.logging.FileHandler;
7     import java.util.logging.Logger;
8     import java.util.logging.SimpleFormatter;
9    
10     public class LookupMain {
11    
12    
13     static final String CONFIG_FILENAME = "fulddaekning.properties";
14    
15     static boolean rename_tables;
16     static SafeProperties conf;
17    
18     static int max_workers;
19     static boolean verbose;
20    
21     static String distributor;
22    
23     final static Logger logger = Logger.getLogger( LookupMain.class.toString() );
24    
25    
26     static Statistik flestDaekkede = new Statistik();
27     static Statistik flestIkkeDaekkede = new Statistik();
28     static Statistik mestBrugteTid = new Statistik();
29     static Statistik stoersteDataset = new Statistik();
30    
31     static Adresse[] alleDaekkedeAdresser;
32    
33    
34     public static void main(String[] args) throws Exception {
35    
36     //Setup j.u.l Logger
37     Logger root = Logger.getLogger("");
38     FileHandler fhandler = new FileHandler("fulddaekning.log"); // Ingen max størrelse, ingen rotation og ingen append
39     fhandler.setFormatter( new SimpleFormatter() );
40     root.addHandler( fhandler );
41    
42    
43    
44    
45     File confFile = new File( CONFIG_FILENAME );
46     if (! confFile.exists() ) {
47     logger.warning("Config file not found: " + CONFIG_FILENAME);
48     System.exit(1);
49     }
50    
51     conf = new SafeProperties();
52     conf.load( new FileReader(confFile) );
53    
54     max_workers = Integer.parseInt( conf.getSafeProperty("MAX_WORKERS") );
55 torben 2243 if (max_workers <= 0) {
56     logger.info("!!! AUTO-DETECT MAX_WORKERS !!!");
57     int cores = Runtime.getRuntime().availableProcessors();
58    
59     max_workers = cores - 1; //Efterlad 1 core/cpu i reserve til systemet
60    
61     }
62 torben 2241 logger.info("Starting with MAX_WORKERS:" + max_workers);
63    
64 torben 2243
65 torben 2241 verbose = Boolean.parseBoolean( conf.getSafeProperty("VERBOSE") );
66     logger.info("Starting with VERBOSE:" + verbose);
67    
68     rename_tables = Boolean.parseBoolean( conf.getSafeProperty("RENAMETABLES") );
69     logger.info("Starting with RENAMETABLES:" + rename_tables);
70    
71     distributor = conf.getSafeProperty("DISTRIBUTOR");
72     distributor = distributor.toUpperCase();
73     logger.info("Starting for DISTRIBUTOR:" + distributor);
74    
75     Constants.init(distributor);
76     Constants consts = Constants.getInstance();
77    
78     Database db = new Database(conf);
79    
80    
81    
82    
83     boolean testRun= false;
84    
85    
86     long start = System.currentTimeMillis();
87    
88     if (testRun == false) {
89    
90     logger.info("Finder postnumre");
91     List<String> postnumre = db.hentPostnumre();
92    
93     // Først validerer vi BBox på alle postnummre, for at undgå fuldt stop midt i beregningen
94     for(String postnr : postnumre) { //
95     logger.info("Validerer BBox for " + postnr);
96     BoundingBox bbox = db.getBoundingbox(postnr);
97     bbox.validateBbox();
98     }
99    
100     if (consts.doExtendedLookup()) {
101     logger.info("Henter alle daekkede adresser");
102     alleDaekkedeAdresser = db.hentAlleDaekkedeAdresser();
103     logger.info( "AlleDaekkedeAdresser.length=" + alleDaekkedeAdresser.length);
104     }
105    
106    
107     //pre-check er ok - reset tmp tabel og start søgningen
108     db.resetResultTable();
109    
110     for(String postnr : postnumre) {
111     Lookup lookup = new Lookup(postnr, db);
112     lookup.doLookup();
113     }
114    
115     if (rename_tables) {
116     db.renameResultTables();
117     } else {
118     logger.info( "Rename tables is disabled !!!" );
119     }
120    
121    
122    
123     } else {
124     /// Test
125     db.resetResultTable();
126    
127     if (consts.doExtendedLookup()) {
128     alleDaekkedeAdresser = db.hentAlleDaekkedeAdresser();
129     logger.info( "AlleDaekkedeAdresser.length=" + alleDaekkedeAdresser.length);
130     }
131    
132     Lookup lookup = new Lookup("458x", db);
133     lookup.doLookup();
134     }
135    
136     long now = System.currentTimeMillis();
137     long elapsed = now - start ;
138    
139     logger.info("Mest brugte tid: " + mestBrugteTid);
140     logger.info("Flest Ikke-dækkede, " + flestIkkeDaekkede);
141     logger.info("Flest Dækkede, " + flestDaekkede);
142     logger.info("Største Dataset, " + stoersteDataset);
143     logger.info("Fuld load done : " + formatMilliSeconds(elapsed) );
144     }
145    
146    
147     public static void saveStatistics(Statistik stat) {
148     if (stat.antalDaekkede > flestDaekkede.antalDaekkede) {
149     flestDaekkede = stat;
150     }
151     if (stat.antalIkkeDaekkede > flestIkkeDaekkede.antalIkkeDaekkede) {
152     flestIkkeDaekkede = stat;
153     }
154    
155     if (stat.totalDataset > mestBrugteTid.totalDataset) {
156     stoersteDataset = stat;
157     }
158    
159     if (stat.forbrugtTid > mestBrugteTid.forbrugtTid) {
160     mestBrugteTid = stat;
161     }
162     }
163    
164     static String formatMilliSeconds(long milliseconds) {
165     int mseconds = (int) milliseconds % 1000;
166     int seconds = (int) (milliseconds / 1000) % 60 ;
167     int minutes = (int) ((milliseconds / (1000*60)) % 60);
168     int hours = (int) ((milliseconds / (1000*60*60)) % 24);
169    
170     return String.format("%02d:%02d:%02d.%03d", hours, minutes, seconds, mseconds);
171     }
172     }

  ViewVC Help
Powered by ViewVC 1.1.20