TwiScan
人気
コミュニティ
アカウントコレクション
ログイン
登録
English
日本語
한국의
简体中文
繁体中文
登録して招待リンクを共有すると、動画再生報酬と紹介報酬を獲得できます。
今すぐ登録
Ren
@Ryrenz
AI Engineer | 分享实用 AI 工具和实战心得
参加 March 2025
689
フォロー中
11.5K
ファン
Ren
@Ryrenz
2026.07.03 04:43
把网页直接复制给 AI,广告、导航、乱码都会一起被塞进去。 这 6 个免费工具专门把网页、PDF、Office 文档抓成 LLM 最擅长处理的 Markdown,做 RAG、做爬虫、喂上下文都靠它们。 1、MarkItDown(162k star) 微软出的万能转换器,PDF、Word、PPT、Excel、图片一股脑转成 Markdown,喂 AI 前的标准预处理,装机量爆炸。 2、Firecrawl(142.8k star) 一个接口把整站爬下来转成干净 Markdown,自动处理动态渲染和反爬,做 AI 应用抓知识库的首选,去年最火的爬虫。 3、Crawl4AI(70.7k star) 专为 LLM 设计的开源爬虫,输出结构化、对 AI 友好,能按你给的 schema 直接抽字段,完全免费自托管。 4、Scrapy(62.8k star) Python 爬虫的老牌框架,大规模、高并发抓数据的工业级选择,要爬几百万页的选它。 5、Katana(17.1k star) 新一代爬取和链接发现框架,速度极快,安全测试和资产盘点常用它先把一个站的 URL 全扒出来。 6、Jina Reader(11.4k star) 最省事的一个,任何网址前面加 ` 就返回干净正文,不用装东西,临时抓一篇文章塞给 AI 秒出。
もっと見る
0
0
1
35
7
コミュニティへ転送
人気のあるユーザー
オリコンニュース
@oricon
2M ファン
TVer新着
@TVer_info
101.4K ファン
ツイッター速報〜BreakingNews
@tweetsoku1
258K ファン
New York Post
@nypost
4.2M ファン
PR TIMESテクノロジー
@PRTIMES_TECH
28.3K ファン
モデルプレス
@modelpress
2M ファン
空空道人
@Kongkongda5882
37.6K ファン
Nia|女優
@iamnianearyou
177.6K ファン
ファミ通.com
@famitsu
1.4M ファン
MANTANWEB/毎日キレイ
@mantanweb
68.8K ファン
cv usk
@cv_usk
438 ファン
4Gamer
@4GamerNews
735K ファン
中國新聞社
@CNS1952
547.3K ファン
Yahoo!ニュース
@YahooNewsTopics
2.1M ファン
一劍浣春秋
@chee828
232.6K ファン