SmartImageExtractionEcommerce

从电子商务网站中提取图像

该项目强调利用LLM和ChatGPT有效提示提高图像提取精度。

笔记

这是一个正在进行的研究项目，因此代码可能不是很干净。

客观的

该项目的目的是从电子商务产品页面中提取产品图像，同时不包括徽标或类似产品图像等无关图像。这需要根据文本内容处理各种语言和过滤。

计划的步骤

1. 初始设置

   • 干净显示HTML（仅显示标签名称，文本和图像链接）
   • 提取所有标题
   • 删除无关标签（例如，脚本，标题，页脚）

2. HTML清洁

   • 保留所有图像
   • 保留所有标题
   • 删除没有图像或标题的元素

3. 识别产品图像

   • 基于Openai的方法
     • 使用OpenAI识别产品图像类：
       • 第一个实验：压缩树以最大程度地减少令牌，递归用清洁的文本馈送API，然后返回图像链接作为数组
       • 重组代码：从网站链接到美丽的套件处理，以提示生成和链接提取
       • 仅保留关键信息（图像链接，标题文本，班级名称）
       • 删除重复项（如果类 +文本/链接类似于上一个条目）
       • 避免批处理，保持提示很短
       • 修复问题（例如，jumia上的data-src属性中的图像源）
       • 与其他电子商务网站进行测试
       • 拒绝小图像（<70像素）
       • 在提示中使用标题和周围文字
     • 基于硒的方法
       • 识别最大的图像，其类和相邻图像（考虑CSS）
       • 将调查结果集成到提示中
     • 使用crawlbase进行适当的网站加载
     • 拒绝没有同一父div的图像
     • 比较OpenAI和非上将算法的精度
       • 观察：
         • 直接检查清洁提示可能就足够了
         • 简化的提示可能直接产生图像
   • 额外的步骤：将图像分类实现为：
     • 区分徽标和产品图像
     • 确定产品图像是属于相似或互补产品

4. 最后一步

   • 验证已确定元素中的图像