配置多组 User-agent / Allow / Disallow,生成标准 robots.txt。
robots.txt
robots.txt 生成ツールは、標準的な robots.txt ファイルを手軽に作成できるオンラインツールです。User-agent や Allow、Disallow のルールを設定して検索エンジンのクローラーがアクセスできる範囲を制御でき、Sitemap の URL も追加できます。
サイト公開時にクローラーのインデックスをディレクトリや非公開ページから制限したい場合に便利です。出力は robots.txt の標準テキスト形式に従います。パスは / で始まる正しい形で指定してください。