elhacker.net cabecera Bienvenido(a), Visitante. Por favor Ingresar o Registrarse
¿Perdiste tu email de activación?.


 


Tema destacado: Deseas probar algunas mejoras a la interfaz del foro? Prueba cake! acerca de


+  Foro de elhacker.net
|-+  Programación
| |-+  Desarrollo Web (Moderador: #!drvy)
| | |-+  Programa o Extensión para extraer datos, links, etc de un código fuente
0 Usuarios y 1 Visitante están viendo este tema.
Páginas: [1] Ir Abajo Respuesta Imprimir
Autor Tema: Programa o Extensión para extraer datos, links, etc de un código fuente  (Leído 468 veces)
jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Programa o Extensión para extraer datos, links, etc de un código fuente
« en: 11 Enero 2018, 22:55 »

Hola.

Suele sucederme que en algunas páginas web's hay una lista de link's o pequeños trozos de texto que me interesa copiarlos, por ejemplo.

www.este-es-un-link.(número al azar).jpg

Ese formato de link's se repite varias veces y como es lógico los números al azar es lo único que cambian, ir copiando de uno en uno es muy tedioso a más de lento, ya pues, me preguntaba si conocen algún programa que me permita copiar todo eso o extraerlo en un solo .txt

Puede ser un programa para windows así me descargo el html y lo extraigo o un complemento para firefox u opera para hacerlo directamente desde el código fuente.

Gracias.


En línea

engel lex
CoAdmin
***
Desconectado Desconectado

Mensajes: 13.681



Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #1 en: 11 Enero 2018, 23:40 »

Hola! Puedes intentar con jdownloader, puede que resuelva tu problema, el simplemente intenta descargar lo que haga en el portapapeles, sólo tendrías que seleccionar link y copiar


En línea

El problema con la sociedad actualmente radica en que todos creen que tienen el derecho de tener una opinión, y que esa opinión sea validada por todos, cuando lo correcto es que todos tengan derecho a una opinión, siempre y cuando esa opinión pueda ser ignorada, cuestionada, e incluso ser sujeta a burla, particularmente cuando no tiene sentido alguno.
NullifiedSociety

Desconectado Desconectado

Mensajes: 9



Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #2 en: 11 Enero 2018, 23:42 »

Expresiones regulares es lo que buscas.

Si abres la consola del navegador y pegas este código, te saldrá una alerta con cosas parecidas a links encontradas en el código de la página cargada.

Código
  1. alert(document.querySelectorAll("html")[0].innerHTML.match(/(https?:\/\/)?([\da-z\.-]+)\.([a-z\.]{2,6})([\/\w \.-]*)*\/?/g).join("\n"));
  2.  

Saludos!
« Última modificación: 11 Enero 2018, 23:48 por NullifiedSociety » En línea

Planes de estudio + Libros correspondientes online y gratis.

Es sólo información. Caro es no proporcionarla. ¿O no ves ninguna relación entre el nivel de educación de una población, y su nivel de vida?

Es infantil esa postura de cerrar la información. Igual que la mentira, y nos gobiernan.

Ahora miedo, codicia e ignorancia son sinónimos. Es una visión triste, pero lógica, del mundo.
jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #3 en: 11 Enero 2018, 23:51 »

Expresiones regulares es lo que buscas.

Me fue muy útil tu respuesta, hay alguna forma de poner condicionales a esa lista? para disminuir el número de links, porque también me muestra link's de los íconos y cosas así.

Engel Lex, si o si debo verlo desde el código Jdownloader no me sirve para eso, ya tú sabes temas de logueo y esas cosas.
En línea

jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #4 en: 12 Enero 2018, 00:08 »

NullifiedSociety

Espera, solo saca los links con src no los que están dentro de un javascript

Por ejemplo:

Código:
button.push (new image ('case1000', ["https://unlink.com/img-case/imagenes/123124324.jpg"], 0));

La condicional que me gustaría poner en un recorre texto sería algo así:

https://unlink.com/img-case/imagenes/*.jpg

En línea

NullifiedSociety

Desconectado Desconectado

Mensajes: 9



Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #5 en: 12 Enero 2018, 00:17 »

Hola aguén.

Emm no sé si entiendo lo que quieres decir.

Pero creo que sí. Quieres hacer lo mismo con los ficheros *.js, ¿es eso?

Para eso, tendrías que coger todos los script tags, y pasarlos por laFunctionQueHemosHechoAntes:

Código
  1. function laFunctionQueHemosHechoAntes(texto) {
  2.  return texto.match(/(https?:\/\/)?([\da-z\.-]+)\.([a-z\.]{2,6})([\/\w \.-]*)*\/?/g).join("\n");
  3. };
  4. var links = [];
  5. var scriptTags = document.querySelectorAll("script").forEach(function(item) {
  6.  $.ajax({
  7.    url: item.src,
  8.    success: function(jsSource) {
  9.      links.push(laFunctionQueHemosHechoAntes(jsSource));
  10.    }
  11.  });
  12. });
  13.  

Necesitarás jQuery cargado, puedes obtenerlo de aquí por ejemplo:

https://cdnjs.cloudflare.com/ajax/libs/jquery/3.2.1/jquery.js

Esperas a que se hagan todos los AJAX, y printas la variable links, ahí deberían estar todos.


« Última modificación: 12 Enero 2018, 00:19 por NullifiedSociety » En línea

Planes de estudio + Libros correspondientes online y gratis.

Es sólo información. Caro es no proporcionarla. ¿O no ves ninguna relación entre el nivel de educación de una población, y su nivel de vida?

Es infantil esa postura de cerrar la información. Igual que la mentira, y nos gobiernan.

Ahora miedo, codicia e ignorancia son sinónimos. Es una visión triste, pero lógica, del mundo.
jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #6 en: 12 Enero 2018, 00:24 »

NullifiedSociety lo que hago es pulsar Ctrl+U y de ahí sale todo el código pero los links que me interesan están dentro de esa expresión push que me imagino es javascript no? nada de *.js todo es desde el navegador espero me entiendas, de todos modos, como cargo ese JQuery que dices?

Y solo mencionaba que también me gusta la idea de guardar el html y desde ahí recorrer el texto, pero repito nada de *.js
« Última modificación: 12 Enero 2018, 00:27 por jheberg » En línea

NullifiedSociety

Desconectado Desconectado

Mensajes: 9



Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #7 en: 12 Enero 2018, 00:27 »

El jQuery lo puedes cargar copiando el código de la url que te he pasado y pegándolo en la consola del navegador directamente.


Okay, luego quierees coger sólo una parte del string coincidente.

Pues siguiendo con el script anterior, coges los links:

Código
  1. var regexParaLoAnterior = /.../g;
  2. var regexParaLoPosterior = /.../g;
  3. var stringsInteresantes = links.split(/\n/g).forEach(function(item) {
  4.  return item.replace(regexParaLoAnterior, "").replace(regexParaLoPosterior, "");
  5. });
  6.  
  7.  

Te dejo que saques tranquilamente una regex adecuada para "lo anterior" y "lo posterior".

Saludos!
« Última modificación: 12 Enero 2018, 00:28 por NullifiedSociety » En línea

Planes de estudio + Libros correspondientes online y gratis.

Es sólo información. Caro es no proporcionarla. ¿O no ves ninguna relación entre el nivel de educación de una población, y su nivel de vida?

Es infantil esa postura de cerrar la información. Igual que la mentira, y nos gobiernan.

Ahora miedo, codicia e ignorancia son sinónimos. Es una visión triste, pero lógica, del mundo.
jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #8 en: 12 Enero 2018, 00:47 »

NullifiedSociety pos nada, ahora resulta que solo extrae menos de la mitad de todos los link's y acabo de darme cuenta que eso pasó desde la primera respuesta que me diste.
« Última modificación: 12 Enero 2018, 01:09 por jheberg » En línea

jheberg

Desconectado Desconectado

Mensajes: 77


Ver Perfil
Re: Programa o Extensión para extraer datos, links, etc de un código fuente
« Respuesta #9 en: 12 Enero 2018, 01:08 »

Se me ha ocurrido una idea genial, copié el código en sublime text y seleccioné todas las líneas coincidentes y luego con shift + right (tecla de dirección derecha) fui seleccionando el resto, por suerte los números al azar tienen la misma longitud por tanto no tendré problemas, si fueran de diferentes longitudes la cosa se complica, pero no es mi caso así que no importa.

Chau nenes.

-

Edito.

Pos si, me topé con líneas de diferentes longitudes jajaja por suerte no fue muy difícil.

Usé una expresión regular y ya.
unlink.com/(.+).jpg

A quién pueda interesar...
« Última modificación: 14 Enero 2018, 12:55 por jheberg » En línea

Páginas: [1] Ir Arriba Respuesta Imprimir 

Ir a:  

Mensajes similares
Asunto Iniciado por Respuestas Vistas Último mensaje
Extraer codigo fuente de pagina.
PHP
HadesDark 2 2,296 Último mensaje 13 Agosto 2007, 15:39
por yeikos
extraer codigo fuente de un iframe ?
Desarrollo Web
Darioxhcx 6 4,457 Último mensaje 23 Julio 2010, 05:20
por jdc
Como hacen un programa para extraer meta datos
Dudas Generales
L0Ko 0 1,445 Último mensaje 4 Febrero 2012, 15:45
por L0Ko
[Ayuda] Extraer URL del código fuente de una web y ponerlo en un ListBox
.NET
error404x 3 1,774 Último mensaje 16 Junio 2015, 02:18
por Eleкtro
Extraer codigo de fuente en programas exe
Ingeniería Inversa
HappyDaycr 2 2,561 Último mensaje 14 Abril 2017, 20:06
por PalitroqueZ
Aviso Legal - Powered by SMF 1.1.21 | SMF © 2006-2008, Simple Machines