Foro de elhacker.net

Hay un tipo de retos incrementales que son más productivos que los retos habituales.

http://en.wikipedia.org/wiki/Cutting_contest
http://en.wikipedia.org/wiki/Guitar_battle

Esto es un reto a ese estilo, consiste en ir añadiendo algo al bot para hacerlo más parecido a una persona en la navegación (con cookies, con referer, con todo eso), además para que sea más fácil indicarle los parámetros que tiene que rellenar (por ejemplo muchos formularios tienen campos hidden, podría rellenarlos él mismo), para que sea más fácil parsear el html después, para que sea más fácil usar proxies... el límite lo pone vuestra imaginación.

Creo que puede ser un reto interesante, entretenido, productivo y del que todos saquemos el divertirnos, un código interesante y aprender y hacer algo útil. Vosotros diréis.

Aquí tenéis un ejemplo de cómo podría empezarse, veremos si alguien continua o no, en unos días pondré una mejora si nadie se anima, y con eso espero que ya sí se anime alguien.

class PHPBot {
 
    function PHPBot (){
      $this->ch = curl_init();
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_HEADER, 1); // Include headers in response or not
      curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); // Return (don't print) answer of exec
      curl_setopt($ch, CURLOPT_USERAGENT, "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.9.0.12) Gecko/2009070611 Firefox/3.0.12");
      curl_setopt($ch, CURLOPT_AUTOREFERER, true); // Isn't this great?
      curl_setopt($ch, CURLOPT_HTTPHEADER, array('Accept: */*', 'Accept-Language: en-us,en;q=0.5', 'Accept-Charset: ISO-8859-1,utf-8;q=0.7,*;q=0.7'));      
    }
 
    private function act($url, $params = false){
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_URL, $url);
      if ($params != false){
        curl_setopt($ch, CURLOPT_POSTFIELDS, $this->myurlencode($params));
        curl_setopt($ch, CURLOPT_POST, 1);
      }
      else
        curl_setopt($ch, CURLOPT_POST, 0);
      $r = curl_exec($ch);
      return $r;
    }
 
    private function myurlencode($dict){
      $r = "";
      foreach($dict as $key => $value)
        $r = $r.urlencode($key).'='.urlencode($value).'&';
      return $r;
    }
 
    function get ($url){
      return $this->act($url);
    }
 
    function post($url, $params){
      return $this->act($url, $params);
    }
 
  }

Añado una función para parsear un string, recoger todo lo que empiece con http (links) y devolverlo en un array.

class PHPBot {
 
    function PHPBot (){
      $this->ch = curl_init();
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_HEADER, 1); // Include headers in response or not
      curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); // Return (don't print) answer of exec
      curl_setopt($ch, CURLOPT_USERAGENT, "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.9.0.12) Gecko/2009070611 Firefox/3.0.12");
      curl_setopt($ch, CURLOPT_AUTOREFERER, true); // Isn't this great?
      curl_setopt($ch, CURLOPT_HTTPHEADER, array('Accept: */*', 'Accept-Language: en-us,en;q=0.5', 'Accept-Charset: ISO-8859-1,utf-8;q=0.7,*;q=0.7'));      
    }
 
    private function act($url, $params = false){
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_URL, $url);
      if ($params != false){
        curl_setopt($ch, CURLOPT_POSTFIELDS, $this->myurlencode($params));
        curl_setopt($ch, CURLOPT_POST, 1);
      }
      else
        curl_setopt($ch, CURLOPT_POST, 0);
      $r = curl_exec($ch);
      return $r;
    }
 
    private function myurlencode($dict){
      $r = "";
      foreach($dict as $key => $value)
        $r = $r.urlencode($key).'='.urlencode($value).'&';
      return $r;
    }
 
    private function get_urls($context){
	$query = '/http?\:\/\/[^\" ]+/i';
	preg_match_all($query,$context,$result);
	return $result[0];
    }
 
    function get ($url){
      return $this->act($url);
    }
 
    function post($url, $params){
      return $this->act($url, $params);
    }
 
  }
 
 

Saludos

Muy bien, pero en ocasiones los links pueden no ser absolutos sino relativos y aparecer sin http. Añado una función para recoger los links (absolutos y relativos) pero sólo cuando son enlaces a otras páginas, no los que son a imágenes ni otras cosas.

A ver si más gente se anima  :D

class PHPBot {
 
    function PHPBot (){
      $this->ch = curl_init();
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_HEADER, 1); // Include headers in response or not
      curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); // Return (don't print) answer of exec
      curl_setopt($ch, CURLOPT_USERAGENT, "Mozilla/5.0 (Windows; U; Windows NT 6.0; en-US; rv:1.9.0.12) Gecko/2009070611 Firefox/3.0.12");
      curl_setopt($ch, CURLOPT_AUTOREFERER, true); // Isn't this great?
      curl_setopt($ch, CURLOPT_HTTPHEADER, array('Accept: */*', 'Accept-Language: en-us,en;q=0.5', 'Accept-Charset: ISO-8859-1,utf-8;q=0.7,*;q=0.7'));      
    }
 
    private function act($url, $params = false){
      $ch = $this->ch;
      curl_setopt($ch, CURLOPT_URL, $url);
      if ($params != false){
        curl_setopt($ch, CURLOPT_POSTFIELDS, $this->myurlencode($params));
        curl_setopt($ch, CURLOPT_POST, 1);
      }
      else
        curl_setopt($ch, CURLOPT_POST, 0);
      $r = curl_exec($ch);
      return $r;
    }
 
    private function myurlencode($dict){
      $r = "";
      foreach($dict as $key => $value)
        $r = $r.urlencode($key).'='.urlencode($value).'&';
      return $r;
    }
 
    private function get_urls($context){
	$query = '/http?\:\/\/[^\" ]+/i';
	preg_match_all($query,$context,$result);
	return $result[0];
    }
 
    function getLinks ($url){
      $dom = new DOMDocument();
      $p = $this->act($url);
      $dom->loadHTML(mb_convert_encoding($p, 'utf-8'));
      $links = $dom->getElementsByTagName('a');
      foreach($links as $l)
        $r[] = $l->getAttribute('href');
      return $r;
    }
 
 
    function get ($url){
      return $this->act($url);
    }
 
    function post($url, $params){
      return $this->act($url, $params);
    }
 
  }
 
 

Podrían comentar el codigo para explicar bien lo que hace, hay gente como yo que sabe la sintaxis de php pero no conoce bien las funciones porque no suele programar en ese lenguaje xD , de antemano, gracias.

Espero no haber estorbado acá.

Puedes hacer click en las funciones que no conozcas y te lleva directamente a la documentación. :D