Guider

Är din webbplats öppen för ChatGPT och Perplexity?

Ladda ner eller skriv ut guiden

Är din webbplats öppen för ChatGPT och Perplexity?

Kort svar

Många webbplatser blockerar AI-crawlers utan att veta om det, via en rad i robots.txt eller en standardinställning i Cloudflare. Och de flesta AI-crawlers kan inte köra JavaScript, så text som först dyker upp när skript laddats är osynlig för dem. Du kan kontrollera båda gratis på ungefär tio minuter.

Kontroll 1: släpper din robots.txt in AI-verktyg?

Öppna dinadress.se/robots.txt i webbläsaren. Leta efter rader som nämner dessa crawlers följt av Disallow: /:

CrawlerVad den är till för
OAI-SearchBotLåter ChatGPT:s sökning hitta och citera dina sidor
GPTBotOpenAIs crawler för att träna modeller
PerplexityBotLåter Perplexity hitta och citera dina sidor
ClaudeBotAnthropics crawler
Google-ExtendedEn inställning som styr om Googles Gemini-modeller får använda ditt innehåll; den påverkar inte vanlig Google-sökning

Vill du bli nämnd i AI-svar ska sökcrawlers (som OAI-SearchBot och PerplexityBot) vara tillåtna. Om träningscrawlers ska vara tillåtna väljer du själv. En rad som User-agent: PerplexityBot följd av Disallow: / betyder att du ber Perplexity hålla sig borta. Ta bort den, eller ändra till Allow: /.

Vad en AI-crawler ser på två sorters sidorTexten finns i HTML-koden✓ Crawlern läser denTexten läggs till av JavaScript<script> …✗ Crawlern ser en tom sida
De flesta AI-crawlers läser bara den rena HTML-koden. Text som först dyker upp när JavaScript körs är osynlig för dem.

Kontroll 2: blockerar något annat dem?

Om din webbplats ligger bakom Cloudflare, öppna Cloudflare och leta efter inställningen som blockerar AI-bottar eller hanterar din robots.txt för AI-crawlers. Vissa konton har den påslagen som standard. Brandväggar hos webbhotellet och säkerhetsplugin kan göra samma sak. Är du osäker, fråga din webbutvecklare: "Blockerar vi OAI-SearchBot, PerplexityBot eller ClaudeBot någonstans?"

Kontroll 3: kan de läsa din text?

De flesta AI-crawlers läser bara den rena HTML-koden. För att se vad de ser: öppna din viktigaste sida, högerklicka och välj "Visa sidkälla" (inte "Inspektera"). Sök i källan efter en mening från sidan.

  • Du hittar din text: bra, AI-crawlers kan läsa den.
  • Du hittar bara ett tomt skal och skript: din sida bygger sin text med JavaScript. Be din utvecklare om serverrenderade eller statiska versioner av dina viktigaste sidor.

Vad gör jag härnäst?

  1. Tillåt AI-sökcrawlers i robots.txt och i alla brandväggs- eller Cloudflare-inställningar.
  2. Se till att dina viktigaste sidor visar sin text i den rena HTML-koden.
  3. Vänta några veckor och ställ sedan kundernas frågor i ChatGPT och Perplexity igen och se om du nämns.

Läs sedan hur AI-verktyg väljer vilka webbplatser de nämner för nästa steg.

Vanliga frågor

Ska jag tillåta GPTBot och andra träningscrawlers?

Det väljer du själv. Sökcrawlers som OAI-SearchBot och PerplexityBot avgör om du kan citeras i svar. Träningscrawlers avgör om ditt innehåll får användas för att träna modeller.

Garanterar det att jag nämns om jag släpper in AI-crawlers?

Nej. Du tar bort ett hinder. Om du nämns beror också på hur användbar, tydlig och väl omnämnd din webbplats är.

Läs vidare

Alla guider

Källor

Chatta med oss