求人票スクレイピング入門|Dify x n8n 連携実践
学習ポイント
- Difyのワークフロー機能(開始・Web Scraper・LLM・終了)の基本構成と継承設定
- WebスクレイピングしたテキストデータをLLMへ変数として渡す具体的な手順
- プロンプトの調整(システム/ユーザー)により、同一データから異なる成果物を作る応用術
Difyの基本的な4つのブロックを組み合わせることで、特定のウェブページから情報を取得し、目的に応じて処理・出力する汎用的なワークフローを構築します。
1. ワークフローの全体像と「開始」ブロックの設定
まずは「ワークフロー」を新規作成し、基点となる「開始」ブロックを設定します。ここでは外部からの入力を受け付けるための変数を設定します。
**変数の設定**: 変数名(例: `url`)とラベル名(例: 求人票のURL)を入力します。これにより、実行時に任意のリンクを指定できるようになります。
2. Web Scraperブロックによる情報抽出
「開始」ブロックの次に「Web Scraper」ツールを追加します。
**入力変数の紐付け**: スラッシュコマンド(/)を使用して、先ほど「開始」ブロックで設定した変数を参照します。これにより、入力されたURLが自動的にスクレイパーに渡されます。
**機能**: 指定されたURLのページを読み込み、構造化されたテキスト情報を取得します。
3. LLMブロックでのプロンプト構築とAI処理
抽出された情報を元にAI(GPT-4o mini等)が処理を行います。
**システムプロンプト**: 「優秀な営業マン」や「採用のプロ」といった役割を定義し、出力形式(Markdownなど)を指定します。
**ユーザープロンプト**: スクレイパーからの出力結果(テキスト)を変数として埋め込みます。例えば「以下の情報を分析し、採用ニーズを1000文字で報告してください」といった命令文を記述します。
4. 「終了」ブロックによる結果の出力
最終的な出力を表示するために「終了」ブロックを配置します。出力変数としてLLMが生成したテキストを選択することで、ブラウザ上に結果が表示されるようになります。
紹介されたツール・サービス
**Dify**: ノーコードでAIアプリやワークフローを構築できるプラットフォーム
**OpenAI GPT-4o mini**: 高速かつ安価に動作する最新の言語モデル
**Web Scraper**: Dify内の標準ツールとして利用可能なウェブ情報取得機能