从html页面抓取内容

问题描述 投票:1回答:2

我正在使用nokogiri来抓取网页。页面的结构由包含多个列表项的无序列表组成,每个列表项都有一个包含在div中的链接,图像和文本。

我正在尝试找到清晰的方法来提取每个列表项中的元素,这样我就可以将每个li包含在数组或哈希中,如下所示:

li[0] = ['Acme co 1', 'image1.png', 'Customer 1 details']
li[1] = ['Acme co 2', 'image2.png', 'Customer 2 details'] 

目前,我将所有元素集中在一起,然后将它们存储在单独的数组中。这样做有更好,更惯用的方法吗?

这是代码atm:

data = Nokogiri::HTML(html)
images = []
name = []
data.css('ul li img').each {|l| images << l}
data.css('ul li a').each {|a| names << a.text }

这是我正在使用的HTML:

<ul class="customers">
  <li>
    <div>
     <a href='#' class="company-name"> Acme co 1 </a>

      <div class="customer-image">
        <img src="image1.png"/>
      </div>

     <div class=" customer-description">
       Cusomter 1 details
     </div>
    </div>

   </li>

   <li>
     <div>
       <a href='#' class="company-name"> Acme co 2</a>
        <div class="customer-image">
         <img src="image1.png"/>
        </div>

       <div class=" customer-description">
         Customer 2 details
       </div>
     </div>

   </li>

</ul>

谢谢

ruby web-scraping nokogiri
2个回答
1
投票

假设你的代码给你你想要的东西,我不会尝试重写任何重要的东西。通过用#each替换你的#map方法,你可以更简洁和惯用:

data = Nokogiri::HTML(html)
images = data.css('ul li img')
names = data.css('ul li a').map(&:text)

1
投票
data = Nokogiri::HTML(html)
images = data.css('ul li img')
names = data.css('ul li a').map(&:text)

这会略微简化您的代码,但您的原始版本并不算太糟糕。

例如,如果您从页面上的多个区域抓取图像,我的简化可能无法概括!在这种情况下,恢复到原来的状态可能没问题。

© www.soinside.com 2019 - 2024. All rights reserved.