/[projects]/android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java
ViewVC logotype

Diff of /android/TrainInfoService/src/dk/thoerup/traininfoservice/banedk/DepartureFetcher.java

Parent Directory Parent Directory | Revision Log Revision Log | View Patch Patch

revision 305 by torben, Thu Sep 10 09:40:27 2009 UTC revision 421 by torben, Thu Oct 8 12:19:42 2009 UTC
# Line 1  Line 1 
1  package dk.thoerup.traininfoservice.banedk;  package dk.thoerup.traininfoservice.banedk;
2    
3    import java.sql.Connection;
4    import java.sql.ResultSet;
5    import java.sql.Statement;
6  import java.util.ArrayList;  import java.util.ArrayList;
7    import java.util.Collections;
8  import java.util.List;  import java.util.List;
9    import java.util.logging.Logger;
10    
 import com.gargoylesoftware.htmlunit.ProxyConfig;  
11  import com.gargoylesoftware.htmlunit.WebClient;  import com.gargoylesoftware.htmlunit.WebClient;
12  import com.gargoylesoftware.htmlunit.html.DomNodeList;  import com.gargoylesoftware.htmlunit.html.DomNodeList;
13  import com.gargoylesoftware.htmlunit.html.HtmlElement;  import com.gargoylesoftware.htmlunit.html.HtmlElement;
14  import com.gargoylesoftware.htmlunit.html.HtmlPage;  import com.gargoylesoftware.htmlunit.html.HtmlPage;
15    
16    import dk.thoerup.curcuitbreaker.CircuitBreaker;
17    import dk.thoerup.curcuitbreaker.CircuitBreakerManager;
18    import dk.thoerup.traininfoservice.DBConnection;
19    
20  public class DepartureFetcher {  public class DepartureFetcher {
21                    
22            Logger logger = Logger.getLogger(DepartureFetcher.class.getName());
23            
24            TimeoutCache<Integer, List<DepartureBean>> cache = new TimeoutCache<Integer,List<DepartureBean>>(120 * 1000);
25            
26                    
27                    
28          static ProxyConfig proxyConfig;          public List<DepartureBean> cachedLookupDepartures(int stationID) throws Throwable {
29          static {  
30                  proxyConfig = new ProxyConfig();                  List<DepartureBean> list = cache.get(stationID);
31                  proxyConfig.setProxyHost("rafiki.t-hoerup.dk");                  
32                  proxyConfig.setProxyPort(3128);                  if (list == null) {
33                            list = lookupDepartures(stationID);
34                            cache.put(stationID, list);
35                    } else {
36                            logger.info("Departure: Cache hit " + stationID); //remove before production
37                    }
38                    return list;
39            }
40                    
41    
42            public List<DepartureBean> lookupDepartures(int stationID) throws Throwable {
43                    List<DepartureBean> departureList = new ArrayList<DepartureBean>();
44                    
45                    Connection conn = null;
46                    try
47                    {
48                            conn = DBConnection.getConnection();
49                    
50                            String SQL = "SELECT stationcode_fjrn, stationcode_stog FROM trainstations WHERE id=" + stationID;
51                            Statement stmt = conn.createStatement();
52                            ResultSet rs = stmt.executeQuery(SQL);
53                            
54                            if (rs.next()) {
55                                    String code = rs.getString( 1 );
56                                    if (! rs.wasNull() ) {
57                                            List<DepartureBean> list = lookupDepartures(code, "FJRN");
58                                            departureList.addAll(list);
59                                    }
60                                    
61                                    code = rs.getString(2);
62                                    if (! rs.wasNull() ) {
63                                            List<DepartureBean> list = lookupDepartures(code, "S2");
64                                            departureList.addAll(list);    
65                                    }
66                                    Collections.sort( departureList );
67                            
68                            }
69                            
70                    } finally {
71                            if (conn != null && !conn.isClosed() ) {
72                                    conn.close();
73                            }
74                    }
75                    
76                    return departureList;
77          }          }
78                    
79          public List<DepartureBean> lookupDepartures() throws Exception {          public List<DepartureBean> lookupDepartures(String stationcode, String type) throws Throwable {
80                                    
81                  List<DepartureBean> departureList = new ArrayList<DepartureBean>();                  List<DepartureBean> departureList = new ArrayList<DepartureBean>();
82                                    
83              final WebClient webClient = new WebClient();              final WebClient webClient = new WebClient();
84              webClient.setTimeout(1000);              webClient.setTimeout(2500);
85              webClient.setProxyConfig(proxyConfig);              webClient.setJavaScriptEnabled(false);
86              webClient.setJavaScriptEnabled(false);                              
87                String uri = "http://www.bane.dk/visStation.asp?ArtikelID=4275&W=" + type + "&S=" + stationcode;
88                BanedkInvocation wrapper = new BanedkInvocation(webClient, uri);
89                CircuitBreaker breaker = CircuitBreakerManager.getManager().getCircuitBreaker("banedk");
90                            
91              final HtmlPage page = webClient.getPage("http://www.bane.dk/visStation.asp?ArtikelID=4275&W=FJRN&S=BJ");              HtmlPage page = (HtmlPage) breaker.invoke(wrapper);
92                            
93              HtmlElement table = page.getElementById("afgangtabel");              HtmlElement table = page.getElementById("afgangtabel");
             DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");  
94                            
95              for (HtmlElement currentRow : tableRows) {              if (table != null) {
96                  String rowClass = currentRow.getAttribute("class");                      DomNodeList<HtmlElement> tableRows =  table.getElementsByTagName("tr");
97                  if (rowClass != null && rowClass.toLowerCase().contains("station") ) {                      
98                          DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");                      for (HtmlElement currentRow : tableRows) {
99                            String rowClass = currentRow.getAttribute("class");
100                          DepartureBean departure = new DepartureBean();                          if (rowClass != null && rowClass.toLowerCase().contains("station") ) {
101                                                            DomNodeList<HtmlElement> fields = currentRow.getElementsByTagName("td");
102                          String time = fields.get(0).asText();          
103                          departure.setTime(time);                                  DepartureBean departure = new DepartureBean();
104                                                            
105                          int updated = extractUpdated( fields.get(1) );                                  String time = fields.get(0).asText();
106                          departure.setUpdated(updated);                                  if (time.equals(""))
107                                                                    time = "0:00"; //Bane.dk bug work-around
108                          String trainNumber = fields.get(2).asText();                                  departure.setTime(time);
109                          departure.setTrainNumber(trainNumber);                                  
110                                                            int updated = extractUpdated( fields.get(1) );
111                          String destination = fields.get(3).asText();                                  departure.setUpdated(updated);
112                          departure.setDestination(destination);                                  
113                                                            String trainNumber = fields.get(2).asText();
114                          String origin = fields.get(4).asText();                                  if (type.equalsIgnoreCase("S2")) //If it is S-train we need to extract the trainNumber
115                          departure.setOrigin(origin);                                          trainNumber = trainNumber + " " + extractTrainNumber(fields.get(2));
116                                                            departure.setTrainNumber(trainNumber);
117                          String location = fields.get(5).asText();                                  
118                          departure.setLocation(location);                                  String destination = fields.get(3).asText();
119                                                            departure.setDestination(destination);
120                          String status = fields.get(6).asText();                                  
121                          departure.setStatus(status);                                  String origin = fields.get(4).asText();
122                                                            departure.setOrigin(origin);
123                          String note = fields.get(7).asText();                                  
124                          departure.setNote(note);                                  String location = fields.get(5).asText();
125                                                            departure.setLocation(location);
126                          departureList.add(departure);                                  
127                  }                                  String status = fields.get(6).asText();
128                                    departure.setStatus(status);
129                                    
130                                    String note = extractNote( fields.get(7) );
131                                    departure.setNote(note);
132                                    
133                                    departureList.add(departure);
134                            }
135                        }
136                } else {
137                    logger.warning("No departures found for station=" + stationcode + ", type=" + type);
138              }              }
139                            
140              return departureList;              return departureList;
# Line 89  public class DepartureFetcher { Line 158  public class DepartureFetcher {
158                  return updated;                  return updated;
159          }          }
160                    
161            private String extractNote(HtmlElement noteTd) {
162                    String note = noteTd.asText().trim();
163                    
164                    List<HtmlElement> elems = noteTd.getElementsByAttribute("span", "class", "bemtype");
165                    if (elems.size() > 0 && note.charAt(note.length()-1) == 'i')
166                            note = note.substring(0,note.length() -1 );
167    
168                    return note;
169            }
170            
171            private String extractTrainNumber(HtmlElement trainTd) {
172                    String number = "";
173                    HtmlElement anchorElement = trainTd.getElementsByTagName("a").get(0);
174                    String href = anchorElement.getAttribute("href");
175                    String argstring = href.substring( href.indexOf('?') + 1);
176                    
177                    String args[] = argstring.split("&");
178                    for (String arg : args) {
179                            String pair[] = arg.split("="); // Key=pair[0], Value=pair[1]
180                            
181                            if (pair[0].equalsIgnoreCase("TogNr"))
182                                    number = pair[1];
183                    }
184                    
185                    
186                    
187                    return number;
188            }
189            
190          //test          //test
191          public static void main(String args[]) throws Exception{          public static void main(String args[]) throws Throwable {
192                  DepartureFetcher f = new DepartureFetcher();                  DepartureFetcher f = new DepartureFetcher();
193                  List<DepartureBean> deps = f.lookupDepartures();                  List<DepartureBean> deps = f.lookupDepartures("AR", "FJRN");
194                  for(DepartureBean d : deps) {                  for(DepartureBean d : deps) {
195                          System.out.println( d.getTime() + ";" + d.getUpdated() + ";" + d.getTrainNumber() + ";" +                          System.out.println( d.getTime() + ";" + d.getUpdated() + ";" + d.getTrainNumber() + ";" +
196                                                  d.getDestination() + ";" + d.getOrigin() + ";" + d.getLocation() + ";" + d.getStatus() + ";" + d.getNote()   );                                                  d.getDestination() + ";" + d.getOrigin() + ";" + d.getLocation() + ";" + d.getStatus() + ";" + d.getNote()   );
Legend:
Removed from v.305  
changed lines
  Added in v.421
  ViewVC Help
Powered by ViewVC 1.1.20