/[projects]/android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java
ViewVC logotype

Diff of /android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 386 by torben, Fri Oct 2 13:44:31 2009 UTC revision 980 by torben, Sat Jul 10 11:01:07 2010 UTC
# Line 1  Line 1 
1  package dk.thoerup.traininfoservice.banedk;  package dk.thoerup.traininfoservice.banedk;
2    
3  import java.sql.Connection;  
 import java.sql.ResultSet;  
 import java.sql.Statement;  
 import java.util.ArrayList;  
4  import java.util.Collections;  import java.util.Collections;
5  import java.util.List;  import java.util.List;
6    import java.util.Map;
7  import java.util.logging.Logger;  import java.util.logging.Logger;
8    
9  import com.gargoylesoftware.htmlunit.ProxyConfig;  import com.gargoylesoftware.htmlunit.BrowserVersion;
10  import com.gargoylesoftware.htmlunit.WebClient;  import com.gargoylesoftware.htmlunit.WebClient;
11  import com.gargoylesoftware.htmlunit.html.DomNodeList;  import com.gargoylesoftware.htmlunit.html.DomNodeList;
12  import com.gargoylesoftware.htmlunit.html.HtmlElement;  import com.gargoylesoftware.htmlunit.html.HtmlElement;
13  import com.gargoylesoftware.htmlunit.html.HtmlPage;  import com.gargoylesoftware.htmlunit.html.HtmlPage;
14    
15  import dk.thoerup.traininfoservice.DBConnection;  import dk.thoerup.circuitbreaker.CircuitBreaker;
16    import dk.thoerup.circuitbreaker.CircuitBreakerManager;
17    import dk.thoerup.traininfoservice.StationBean;
18    import dk.thoerup.traininfoservice.StationDAO;
19    import dk.thoerup.traininfoservice.Statistics;
20    
21  public class DepartureFetcher {  public class DepartureFetcher {
22                    
23            enum TrainType{
24                    STOG,
25                    REGIONAL
26            }
27            
28          Logger logger = Logger.getLogger(DepartureFetcher.class.getName());          Logger logger = Logger.getLogger(DepartureFetcher.class.getName());
29            
30            Map<String, DepartureBean> cache;
31            
32            StationDAO stationDao = new StationDAO();
33            
34            private boolean useTempSite;
35            
36            public DepartureFetcher(boolean tempSite, int cacheTimeout) {
37                    useTempSite = tempSite;
38                    cache = new TimeoutMap<String,DepartureBean>(cacheTimeout);
39            }
40            
41            
42                    
43            
44            public DepartureBean cachedLookupDepartures(int stationID, boolean arrival) throws Exception {
45                    final String key = "" + stationID + ":" + arrival;
46                                    
47                    DepartureBean departureBean = cache.get(key);
48    
         public List<DepartureBean> lookupDepartures(int stationID) throws Exception {  
                 List<DepartureBean> departureList = new ArrayList<DepartureBean>();  
49                                    
50                  Connection conn = null;                  if (departureBean == null) {
51                  try                          departureBean = lookupDepartures(stationID,arrival);
52                  {                          cache.put(key, departureBean);
53                          conn = DBConnection.getConnection();                  } else {
54                                            Statistics.getInstance().incrementDepartureCacheHits();
55                          String SQL = "SELECT stationcode_fjrn, stationcode_stog FROM trainstations WHERE id=" + stationID;                          logger.info("Departure: Cache hit " + key); //remove before production
                         Statement stmt = conn.createStatement();  
                         ResultSet rs = stmt.executeQuery(SQL);  
                           
                         if (rs.next()) {  
                                 String code = rs.getString( 1 );  
                                 if (! rs.wasNull() ) {  
                                         List<DepartureBean> list = lookupDepartures(code, "FJRN");  
                                         departureList.addAll(list);  
                                 }  
                                   
                                 code = rs.getString(2);  
                                 if (! rs.wasNull() ) {  
                                         List<DepartureBean> list = lookupDepartures(code, "S2");  
                                         departureList.addAll(list);      
                                 }  
                                 Collections.sort( departureList );  
                           
                         }  
                           
                 } finally {  
                         if (conn != null && !conn.isClosed() ) {  
                                 conn.close();  
                         }  
56                  }                  }
57                    return departureBean;
58            }
59                    
60    
61            public DepartureBean lookupDepartures(int stationID, boolean arrival) throws Exception {
62                    
63                    DepartureBean departureBean = new DepartureBean();
64                    
65                    StationBean station = stationDao.getById(stationID);
66                                    
67                  return departureList;                  if (station.getRegional() != null) {
68                            DepartureBean tempBean = lookupDepartures(station.getRegional(), TrainType.REGIONAL, arrival);
69                            departureBean.departureEntries.addAll( tempBean.departureEntries );
70                            departureBean.notifications.addAll(tempBean.notifications);
71                    }
72                    
73                    if (station.getStrain() != null) {
74                            DepartureBean tempBean = lookupDepartures(station.getStrain(), TrainType.STOG, arrival);
75                            departureBean.departureEntries.addAll( tempBean.departureEntries );
76                            departureBean.notifications.addAll(tempBean.notifications);
77                    }              
78                    
79                    Collections.sort( departureBean.departureEntries );
80    
81                    
82                    return departureBean;
83          }          }
84                    
85          public List<DepartureBean> lookupDepartures(String stationcode, String type) throws Exception {          public DepartureBean lookupDepartures(String stationcode, TrainType type, boolean arrival) throws Exception {
86                    if (useTempSite == false) {
87                            return lookupDeparturesNormalSite(stationcode, type, arrival);
88                    } else {
89                            //return lookupDeparturesFromTemporarySite(stationcode, type);
90                            //TODO: find out what to to if they ever put a temp site up on trafikinfo.bane.dk
91                            return null;
92                    }
93            }
94            
95            private String getTypeString(TrainType type) {
96                    switch (type) {
97                    case STOG:
98                            return "S-Tog";
99                    case REGIONAL:
100                            return "Fjerntog";
101                    default:
102                            return ""; //Can not happen
103                    }
104            }
105            
106            public DepartureBean lookupDeparturesNormalSite(String stationcode, TrainType type, boolean arrival) throws Exception {
107                                    
108                  List<DepartureBean> departureList = new ArrayList<DepartureBean>();                  DepartureBean departureBean = new DepartureBean();
109                                    
110              final WebClient webClient = new WebClient();              final WebClient webClient = new WebClient( BrowserVersion.FIREFOX_3 );
111              webClient.setTimeout(2500);              webClient.setTimeout(2500);
112              webClient.setJavaScriptEnabled(false);              webClient.setJavaScriptEnabled(false);
113                
114                
115                String typeString = getTypeString(type);
116                String arrivalDeparture = (arrival==false) ? "Afgang" : "Ankomst";
117                                                            
118                //String uri = "http://www.bane.dk/visStation.asp?ArtikelID=4275&W=" + type + "&S=" + stationcode;
119                String uri = "http://trafikinfo.bane.dk/Trafikinformation/AfgangAnkomst/" + arrivalDeparture + "/" + stationcode + "/" + typeString + "/UdvidetVisning";
120    
121                //logger.info("URI: " + uri);
122                HtmlunitInvocation wrapper = new HtmlunitInvocation(webClient, uri);
123                CircuitBreaker breaker = CircuitBreakerManager.getManager().getCircuitBreaker("banedk");
124                            
125              final HtmlPage page = webClient.getPage("http://www.bane.dk/visStation.asp?ArtikelID=4275&W=" + type + "&S=" + stationcode);              HtmlPage page = (HtmlPage) breaker.invoke(wrapper);
126                            
127              HtmlElement table = page.getElementById("afgangtabel");              String tableName = arrival == false ? "afgangtabel" : "ankomsttabel";
128                HtmlElement table = page.getElementById(tableName);
129                            
130              if (table != null) {              if (table != null) {
131                      DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");                      DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");
# Line 79  public class DepartureFetcher { Line 135  public class DepartureFetcher {
135                          if (rowClass != null && rowClass.toLowerCase().contains("station") ) {                          if (rowClass != null && rowClass.toLowerCase().contains("station") ) {
136                                  DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");                                  DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");
137                    
138                                  DepartureBean departure = new DepartureBean();                                  DepartureEntry departure = new DepartureEntry();
139                                                                    
140                                  String time = fields.get(0).asText();                                  String time = fields.get(0).asText();
141                                  if (time.equals(""))                                  if (time.equals(""))
# Line 90  public class DepartureFetcher { Line 146  public class DepartureFetcher {
146                                  departure.setUpdated(updated);                                  departure.setUpdated(updated);
147                                                                    
148                                  String trainNumber = fields.get(2).asText();                                  String trainNumber = fields.get(2).asText();
149                                  if (trainNumber.trim().length() == 1)                                  if (type == TrainType.STOG) //If it is S-train we need to extract the trainNumber
150                                          trainNumber = trainNumber + " " + extractTrainNumber(fields.get(2));                                          trainNumber = trainNumber + " " + extractTrainNumber(fields.get(2));
151                                  departure.setTrainNumber(trainNumber);                                  departure.setTrainNumber(trainNumber);
152                                                                    
# Line 103  public class DepartureFetcher { Line 159  public class DepartureFetcher {
159                                  String location = fields.get(5).asText();                                  String location = fields.get(5).asText();
160                                  departure.setLocation(location);                                  departure.setLocation(location);
161                                                                    
162                                  String status = fields.get(6).asText();                                  String status = fields.get(6).asText().trim();
163                                  departure.setStatus(status);                                  departure.setStatus(status);
164                                                                    
165                                  String note = extractNote( fields.get(7) );                                  String note = extractNote( fields.get(7) );
166                                  departure.setNote(note);                                  departure.setNote(note);
167                                                                    
168                                  departureList.add(departure);                                  departure.setType(typeString);
169                                    
170                                    departureBean.departureEntries.add( departure );
171                          }                          }
172                      }                      }
173              } else {              } else {
174                  logger.warning("No departures found for station=" + stationcode + ", type=" + type);                  logger.warning("No departures found for station=" + stationcode + ", type=" + type);
175              }              }
176                            
177              return departureList;              HtmlElement notifDiv = page.getElementById("station_planlagte_text");
178                if (notifDiv != null) {
179    
180                    DomNodeList<HtmlElement> tables = notifDiv.getElementsByTagName("table");
181                    for (HtmlElement tab : tables) {
182    
183                            DomNodeList<HtmlElement> anchors = tab.getElementsByTagName("a");              
184                            if (anchors.size() == 2) {
185                                    departureBean.notifications.add(  anchors.get(1).getTextContent() );
186                            }
187                    }
188                    
189                }
190                
191                
192                webClient.closeAllWindows();
193                
194                return departureBean;
195          }          }
196                    
197            /*
198            @Deprecated
199            public List<DepartureBean> lookupDeparturesFromTemporarySite(String stationcode, String type) throws Exception {
200                    
201                    List<DepartureBean> departureList = new ArrayList<DepartureBean>();
202                    
203                final WebClient webClient = new WebClient(BrowserVersion.FIREFOX_3);
204                webClient.setTimeout(2500);
205                webClient.setJavaScriptEnabled(false);
206                
207    
208                String uri = "http://bane.dk/lite/station.asp?w=" + type + "&s=" + stationcode;
209                
210                HtmlunitInvocation wrapper = new HtmlunitInvocation(webClient, uri);
211                CircuitBreaker breaker = CircuitBreakerManager.getManager().getCircuitBreaker("banedk");
212                
213                HtmlPage page = (HtmlPage) breaker.invoke(wrapper);
214                
215                HtmlElement table = page.getElementById("traf_afgang");
216                
217                if (table != null) {                        
218                        DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");
219                        
220                        boolean isFirst = true;
221                        
222                        for (HtmlElement currentRow : tableRows) {
223                            if (isFirst == true) { //skip table headers
224                                    isFirst = false;
225                                    continue;
226                            }
227                            
228                            DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");
229    
230                            DepartureBean departure = new DepartureBean();
231    
232                            String time = fields.get(0).asText().trim();
233    
234                            if (time.equals(""))
235                                    time = "0:00"; //Bane.dk bug work-around
236                            departure.setTime(time);
237    
238    
239                            String trainNumber = fields.get(1).asText();
240                            departure.setTrainNumber(trainNumber);
241    
242                            String destination = fields.get(2).asText();
243                            departure.setDestination(destination);
244    
245                            String origin = fields.get(3).asText();
246                            departure.setOrigin(origin);
247    
248                            String status = fields.get(4).asText();
249                            departure.setStatus(status);
250    
251                            String note = fields.get(5).asText();
252                            departure.setNote(note);
253    
254                            departureList.add(departure);
255                        }
256                } else {
257                    logger.warning("No departures found for station=" + stationcode + ", type=" + type);
258                }
259                webClient.closeAllWindows();
260                
261                
262                return departureList;
263            }*/
264    
265            
266          private int extractUpdated(HtmlElement updatedTd) { //extract the digit (in this case: 4) from "media/trafikinfo/opdater4.gif"          private int extractUpdated(HtmlElement updatedTd) { //extract the digit (in this case: 4) from "media/trafikinfo/opdater4.gif"
267                  int updated = -1;                  int updated = -1;
268                                    
# Line 148  public class DepartureFetcher { Line 292  public class DepartureFetcher {
292          }          }
293                    
294          private String extractTrainNumber(HtmlElement trainTd) {          private String extractTrainNumber(HtmlElement trainTd) {
                 String number = "";  
295                  HtmlElement anchorElement = trainTd.getElementsByTagName("a").get(0);                  HtmlElement anchorElement = trainTd.getElementsByTagName("a").get(0);
296                  String href = anchorElement.getAttribute("href");                  String href = anchorElement.getAttribute("href");
                 String argstring = href.substring( href.indexOf('?') + 1);  
                   
                 String args[] = argstring.split("&");  
                 for (String arg : args) {  
                         String pair[] = arg.split("="); // Key=pair[0], Value=pair[1]  
                           
                         if (pair[0].equalsIgnoreCase("TogNr"))  
                                 number = pair[1];  
                 }  
                   
297                                    
298                    int pos = href.lastIndexOf('/');
299                    String number = href.substring(pos+1);
300                                    
301                  return number;                  return number;
302          }          }
303                    
304          //test          //test
305          public static void main(String args[]) throws Exception{          /*
306            public static void main(String args[]) throws Exception {
307                  DepartureFetcher f = new DepartureFetcher();                  DepartureFetcher f = new DepartureFetcher();
308                  List<DepartureBean> deps = f.lookupDepartures("AR", "FJRN");                  List<DepartureBean> deps = f.lookupDepartures("AR", "FJRN");
309                  for(DepartureBean d : deps) {                  for(DepartureBean d : deps) {
# Line 176  public class DepartureFetcher { Line 312  public class DepartureFetcher {
312                  }                  }
313                                    
314                  System.out.println("--------------------------");                  System.out.println("--------------------------");
315          }          }*/
316  }  }
Legend:
Removed from v.386  
changed lines
  Added in v.980
  ViewVC Help
Powered by ViewVC 1.1.20