/[projects]/android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java
ViewVC logotype

Diff of /android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 305 by torben, Thu Sep 10 09:40:27 2009 UTC revision 451 by torben, Tue Oct 20 10:32:19 2009 UTC
# Line 1  Line 1 
1  package dk.thoerup.traininfoservice.banedk;  package dk.thoerup.traininfoservice.banedk;
2    
3    import java.sql.Connection;
4    import java.sql.ResultSet;
5    import java.sql.Statement;
6  import java.util.ArrayList;  import java.util.ArrayList;
7    import java.util.Collections;
8  import java.util.List;  import java.util.List;
9    import java.util.Map;
10    import java.util.logging.Logger;
11    
 import com.gargoylesoftware.htmlunit.ProxyConfig;  
12  import com.gargoylesoftware.htmlunit.WebClient;  import com.gargoylesoftware.htmlunit.WebClient;
13  import com.gargoylesoftware.htmlunit.html.DomNodeList;  import com.gargoylesoftware.htmlunit.html.DomNodeList;
14  import com.gargoylesoftware.htmlunit.html.HtmlElement;  import com.gargoylesoftware.htmlunit.html.HtmlElement;
15  import com.gargoylesoftware.htmlunit.html.HtmlPage;  import com.gargoylesoftware.htmlunit.html.HtmlPage;
16    
17    import dk.thoerup.curcuitbreaker.CircuitBreaker;
18    import dk.thoerup.curcuitbreaker.CircuitBreakerManager;
19    import dk.thoerup.traininfoservice.DBConnection;
20    
21  public class DepartureFetcher {  public class DepartureFetcher {
22                    
23            Logger logger = Logger.getLogger(DepartureFetcher.class.getName());
24            
25            Map<Integer, List<DepartureBean>> cache = new TimeoutMap<Integer,List<DepartureBean>>(120 * 1000);
26            
27                    
28                    
29          static ProxyConfig proxyConfig;          public List<DepartureBean> cachedLookupDepartures(int stationID) throws Exception {
30          static {  
31                  proxyConfig = new ProxyConfig();                  List<DepartureBean> list = cache.get(stationID);
32                  proxyConfig.setProxyHost("rafiki.t-hoerup.dk");                  
33                  proxyConfig.setProxyPort(3128);                  if (list == null) {
34                            list = lookupDepartures(stationID);
35                            cache.put(stationID, list);
36                    } else {
37                            logger.info("Departure: Cache hit " + stationID); //remove before production
38                    }
39                    return list;
40            }
41                    
42    
43            public List<DepartureBean> lookupDepartures(int stationID) throws Exception {
44                    List<DepartureBean> departureList = new ArrayList<DepartureBean>();
45                    
46                    Connection conn = null;
47                    try
48                    {
49                            conn = DBConnection.getConnection();
50                    
51                            String SQL = "SELECT stationcode_fjrn, stationcode_stog FROM trainstations WHERE id=" + stationID;
52                            Statement stmt = conn.createStatement();
53                            ResultSet rs = stmt.executeQuery(SQL);
54                            
55                            if (rs.next()) {
56                                    String code = rs.getString( 1 );
57                                    if (! rs.wasNull() ) {
58                                            List<DepartureBean> list = lookupDepartures(code, "FJRN");
59                                            departureList.addAll(list);
60                                    }
61                                    
62                                    code = rs.getString(2);
63                                    if (! rs.wasNull() ) {
64                                            List<DepartureBean> list = lookupDepartures(code, "S2");
65                                            departureList.addAll(list);    
66                                    }
67                                    Collections.sort( departureList );
68                            
69                            }
70                            
71                    } finally {
72                            if (conn != null && !conn.isClosed() ) {
73                                    conn.close();
74                            }
75                    }
76                    
77                    return departureList;
78          }          }
79                    
80          public List<DepartureBean> lookupDepartures() throws Exception {          public List<DepartureBean> lookupDepartures(String stationcode, String type) throws Exception {
81                                    
82                  List<DepartureBean> departureList = new ArrayList<DepartureBean>();                  List<DepartureBean> departureList = new ArrayList<DepartureBean>();
83                                    
84              final WebClient webClient = new WebClient();              final WebClient webClient = new WebClient();
85              webClient.setTimeout(1000);              webClient.setTimeout(2500);
86              webClient.setProxyConfig(proxyConfig);              webClient.setJavaScriptEnabled(false);
87              webClient.setJavaScriptEnabled(false);                              
88                String uri = "http://www.bane.dk/visStation.asp?ArtikelID=4275&W=" + type + "&S=" + stationcode;
89                BanedkInvocation wrapper = new BanedkInvocation(webClient, uri);
90                CircuitBreaker breaker = CircuitBreakerManager.getManager().getCircuitBreaker("banedk");
91                            
92              final HtmlPage page = webClient.getPage("http://www.bane.dk/visStation.asp?ArtikelID=4275&W=FJRN&S=BJ");              HtmlPage page = (HtmlPage) breaker.invoke(wrapper);
93                            
94              HtmlElement table = page.getElementById("afgangtabel");              HtmlElement table = page.getElementById("afgangtabel");
             DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");  
95                            
96              for (HtmlElement currentRow : tableRows) {              if (table != null) {
97                  String rowClass = currentRow.getAttribute("class");                      DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");
98                  if (rowClass != null && rowClass.toLowerCase().contains("station") ) {                      
99                          DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");                      for (HtmlElement currentRow : tableRows) {
100                            String rowClass = currentRow.getAttribute("class");
101                          DepartureBean departure = new DepartureBean();                          if (rowClass != null && rowClass.toLowerCase().contains("station") ) {
102                                                            DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");
103                          String time = fields.get(0).asText();          
104                          departure.setTime(time);                                  DepartureBean departure = new DepartureBean();
105                                                            
106                          int updated = extractUpdated( fields.get(1) );                                  String time = fields.get(0).asText();
107                          departure.setUpdated(updated);                                  if (time.equals(""))
108                                                                    time = "0:00"; //Bane.dk bug work-around
109                          String trainNumber = fields.get(2).asText();                                  departure.setTime(time);
110                          departure.setTrainNumber(trainNumber);                                  
111                                                            int updated = extractUpdated( fields.get(1) );
112                          String destination = fields.get(3).asText();                                  departure.setUpdated(updated);
113                          departure.setDestination(destination);                                  
114                                                            String trainNumber = fields.get(2).asText();
115                          String origin = fields.get(4).asText();                                  if (type.equalsIgnoreCase("S2")) //If it is S-train we need to extract the trainNumber
116                          departure.setOrigin(origin);                                          trainNumber = trainNumber + " " + extractTrainNumber(fields.get(2));
117                                                            departure.setTrainNumber(trainNumber);
118                          String location = fields.get(5).asText();                                  
119                          departure.setLocation(location);                                  String destination = fields.get(3).asText();
120                                                            departure.setDestination(destination);
121                          String status = fields.get(6).asText();                                  
122                          departure.setStatus(status);                                  String origin = fields.get(4).asText();
123                                                            departure.setOrigin(origin);
124                          String note = fields.get(7).asText();                                  
125                          departure.setNote(note);                                  String location = fields.get(5).asText();
126                                                            departure.setLocation(location);
127                          departureList.add(departure);                                  
128                  }                                  String status = fields.get(6).asText();
129                                    departure.setStatus(status);
130                                    
131                                    String note = extractNote( fields.get(7) );
132                                    departure.setNote(note);
133                                    
134                                    departureList.add(departure);
135                            }
136                        }
137                } else {
138                    logger.warning("No departures found for station=" + stationcode + ", type=" + type);
139              }              }
140                            
141              return departureList;              return departureList;
# Line 89  public class DepartureFetcher { Line 159  public class DepartureFetcher {
159                  return updated;                  return updated;
160          }          }
161                    
162            private String extractNote(HtmlElement noteTd) {
163                    String note = noteTd.asText().trim();
164                    
165                    List<HtmlElement> elems = noteTd.getElementsByAttribute("span", "class", "bemtype");
166                    if (elems.size() > 0 && note.charAt(note.length()-1) == 'i')
167                            note = note.substring(0,note.length() -1 );
168    
169                    return note;
170            }
171            
172            private String extractTrainNumber(HtmlElement trainTd) {
173                    String number = "";
174                    HtmlElement anchorElement = trainTd.getElementsByTagName("a").get(0);
175                    String href = anchorElement.getAttribute("href");
176                    String argstring = href.substring( href.indexOf('?') + 1);
177                    
178                    String args[] = argstring.split("&");
179                    for (String arg : args) {
180                            String pair[] = arg.split("="); // Key=pair[0], Value=pair[1]
181                            
182                            if (pair[0].equalsIgnoreCase("TogNr"))
183                                    number = pair[1];
184                    }
185                    
186                    
187                    
188                    return number;
189            }
190            
191          //test          //test
192          public static void main(String args[]) throws Exception{          public static void main(String args[]) throws Exception {
193                  DepartureFetcher f = new DepartureFetcher();                  DepartureFetcher f = new DepartureFetcher();
194                  List<DepartureBean> deps = f.lookupDepartures();                  List<DepartureBean> deps = f.lookupDepartures("AR", "FJRN");
195                  for(DepartureBean d : deps) {                  for(DepartureBean d : deps) {
196                          System.out.println( d.getTime() + ";" + d.getUpdated() + ";" + d.getTrainNumber() + ";" +                          System.out.println( d.getTime() + ";" + d.getUpdated() + ";" + d.getTrainNumber() + ";" +
197                                                  d.getDestination() + ";" + d.getOrigin() + ";" + d.getLocation() + ";" + d.getStatus() + ";" + d.getNote()   );                                                  d.getDestination() + ";" + d.getOrigin() + ";" + d.getLocation() + ";" + d.getStatus() + ";" + d.getNote()   );
Legend:
Removed from v.305  
changed lines
  Added in v.451
  ViewVC Help
Powered by ViewVC 1.1.20