Skip to content

fix(robots): disallow /api/ from crawlers#1173

Merged
lacolaco merged 1 commit into
angular:mainfrom
lacolaco:fix/disallow-api-from-crawlers
Jun 11, 2026
Merged

fix(robots): disallow /api/ from crawlers#1173
lacolaco merged 1 commit into
angular:mainfrom
lacolaco:fix/disallow-api-from-crawlers

Conversation

@lacolaco

Copy link
Copy Markdown
Collaborator

翻訳・修正

変更内容はCONTRIBUTING.md に記載されたワークフローに従っていることを確認してください。

関連Issue

なし

備考

/api/ は upstream の Angular ソースから自動生成される API リファレンスで、angular-ja では日本語化対象外(auto-generated、localizedFilePatterns の対象外)。

日本語サイトとしては SEO 価値がなく、検索クローラ (Bingbot/YandexBot/Amazonbot 等) によるクロールが Firebase Hosting の egress 増大の主要因になっていました。実測では Bingbot の /api 系トラフィックだけで 1 日あたり数百 MB を占めています。

robots.txt で /api/ を Disallow に変更することで:

  • 本物のクローラに対して /api/ 配下のクロールを停止させ、Firebase egress を削減
  • 検索結果からも /api/ 配下のページが徐々にインデックスから外れていく(API リファレンスを検索したいユーザーは英語の angular.dev に誘導される想定)

変更内容

tools/adev-patches/replace-robots.patch を追加し、upstream の adev/src/robots.txt を以下に置き換え:

# Allow most URLs, disallow auto-generated English /api/ from crawlers.
# /api/ is not localized (auto-generated from upstream Angular source).
User-agent: *
Disallow: /api/

Sitemap: https://angular.jp/sitemap.xml

pnpm test で patch が正常に apply されることを確認済み。

/api/ は upstream の Angular ソースから自動生成される API リファレンスで日本語化対象外。
日本語サイトとしての SEO 価値がなく、検索クローラ (Bing/Yandex 等) によるクロールが
Firebase Hosting の egress 増大の主要因になっていた。
robots.txt で /api/ を Disallow し、不要なクロールを抑制する。
@lacolaco lacolaco merged commit bef0828 into angular:main Jun 11, 2026
7 checks passed
@lacolaco lacolaco deleted the fix/disallow-api-from-crawlers branch June 11, 2026 13:23
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant