בלוג

llms.txt: מה זה, איך יוצרים אותו והאם רובוטי AI קוראים אותו

קובץ llms.txt הוא הצעה ולא תקן: תיאור של אתר ורשימת הכתובות החשובות שלו למודלי שפה ולסוכני AI. סוכן AI הוא תוכנה שמבצעת משימות בשם המשתמש, למשל מחפשת מידע בתיעוד. גוגל כותבת שמנוע החיפוש שלה לא משתמש בקבצים כאלה. ב-rogala.pro יש לי llms.txt מ-8 באוקטובר 2026, ובנפרד גרסת Markdown של כל דף, ובלוגים של השרת אני בודק מי מוריד אותם. במשך עשרה ימים אחרי ההטמעה אף רובוט AI מוכר לא שלח בקשה ל-llms.txt. את גרסאות ה-Markdown של הדפים הורידו בזמן הזה רובוטים שהזדהו כ-ClaudeBot, כ-OAI-SearchBot וכ-Applebot.

הנתונים העצמיים בטקסט הזה מגיעים מלוגים גולמיים של השרת של rogala.pro ומתייחסים ל-8-17 באוקטובר 2026, כלומר לעשרה ימים אחרי ההטמעה. אני סופר בקשות לפי שם הרובוט שהתוכנה מציינת בבקשה (User-Agent), גם כאלה שהשרת דחה. את השם הזה אפשר לזייף, ולפי כתובות IP בדקתי רק חלק מהרובוטים. המספרים הם בלי הבקשות ששלחתי בעצמי. תשובות Markdown בכתובת רגילה של דף אני מזהה לפי גודל, ולכן מספרן הוא קירוב. המדידה נמשכת עד 8 בנובמבר 2026, ואחרי קריאה מלאה אעדכן את המספרים. זה אתר קטן אחד ועשרה ימים, ולכן הנתונים מראים מי שולח בקשות לקבצים, ולא אם הקבצים עוזרים לנראות.

תוכן העניינים
  1. מהו קובץ llms.txt?
  2. במה llms.txt שונה מגרסאות Markdown של דפים?
  3. איך נראה קובץ llms.txt?
  4. איך נראים קובצי llms.txt של Allegro, Empik ו-Morele?
  5. האם גוגל משתמשת ב-llms.txt?
  6. האם רובוטי AI קוראים את llms.txt?
  7. מה הראו הלוגים של האתר שלי אחרי הטמעת llms.txt?
  8. מתי כדאי ליצור llms.txt?
  9. איך יוצרים קובץ llms.txt?
  10. איך בודקים אם רובוטים מורידים את llms.txt?
  11. שאלות נפוצות על llms.txt
  12. מאיפה מתחילים?

מהו קובץ llms.txt?

llms.txt הוא קובץ טקסט בתיקייה הראשית של האתר, שבכמה שורות מתאר את האתר ומצביע על הכתובות של הדפים החשובים. כותבים אותו ב-Markdown, כלומר בפורמט טקסט פשוט: התו # בתחילת שורה יוצר כותרת, וקישור נראה כך: [כותרת](כתובת). את ההצעה פרסם Jeremy Howard ב-3 בספטמבר 2024 (llmstxt.org). המטרה הייתה שסוכן AI יבין מהר ממה מורכב האתר, בלי לעבור על תפריטים ועל קוד HTML. באוגוסט 2026 המחבר פרסם גרסה שנייה, המבוססת על מה שלמד בשנתיים שבהן אתרים השתמשו בקובץ. הוא עדיין מכנה אותה הצעה פתוחה להערות ולא תקן מקובל.

קובץלמה הוא משמשמי קורא אותוהאם הוא חוסם משהו
robots.txtכללים שקובעים אילו כתובות רובוטים רשאים להורידרובוטים של מנועי חיפוש ורובוטי AI שמצהירים שהם מכבדים אותוכן, לרובוטים שמכבדים אותו
מפת אתר (sitemap.xml)כתובות המיועדות לאינדוקס, לעיתים עם תאריך שינוי אחרוןמנועי חיפושלא
llms.txtתיאור האתר וכתובות נבחרות ב-Markdownרובוטי AI וכלים למפתחים; רובוטים של מנועי חיפוש AI לעיתים רחוקותלא
גרסת Markdown של דף (למשל index.md)התוכן של דף אחד בפורמט פשוט, בלי תפריטים ובלי קוד HTMLרובוטי AI וסוכנים; בלוגים שלי, בין היתר ClaudeBot ו-OAI-SearchBotלא

llms.txt לא חוסם דבר ולא קובע לגבי אימון מודלים. קובץ robots.txt מעביר לרובוטי AI כללי גישה, אבל פועל רק על רובוטים שמכבדים אותו. גישה מגבילים גם בשרת, בחומת האש ובהגדרות ה-CDN, כלומר רשת השרתים המתווכת. בטקסט על אודיט SEO תיארתי איך אני בודק את זה.

במה llms.txt שונה מגרסאות Markdown של דפים?

llms.txt וגרסת Markdown של דף הם שני דברים שונים, אף שההצעה מ-llmstxt.org מתארת את שניהם. llms.txt הוא קובץ אחד לכל האתר או לחלק ממנו, כלומר מדריך לכתובות החשובות עם תיאורים קצרים. גרסת Markdown היא התוכן של דף אחד בפורמט פשוט, בלי תפריטים, סקריפטים וקוד HTML. הקישורים ב-llms.txt אמורים להוביל לגרסאות כאלה, אבל כל אחד מהדברים האלה עובד גם בלי השני (llmstxt.org).

רובוט יכול להגיע לגרסת Markdown בשלוש דרכים, וההצעה מ-llmstxt.org מתארת שתיים מהן:

  • בכתובת קבועה. ההצעה ממליצה על גרסת Markdown בכתובת הדף עם התוספת .md, למשל page.html.md, ובכתובת בלי שם קובץ על index.md.
  • דרך תגית או כותרת. התגית <link rel="alternate" type="text/markdown"> בקוד הדף מצביעה על גרסת Markdown. התגית <link rel="describedby"> מצביעה על קובץ llms.txt שמתאר את הדף הזה. הגרסה השנייה של ההצעה מתירה את אותו דבר בכותרת HTTP בשם Link, כלומר בתשובת השרת (llmstxt.org).
  • דרך משא ומתן על תוכן. תוכנה שולחת כותרת Accept: text/markdown, כלומר מבקשת Markdown במפורש, והשרת בכתובת הרגילה מחזיר Markdown במקום HTML. ההצעה מ-llmstxt.org לא מתארת את הדרך הזו. כך פועלת, למשל, פונקציה של Cloudflare שאת מדידתה אני מתאר בהמשך.

ב-rogala.pro פועלות כל שלוש הדרכים, ו-llms.txt הוא קובץ נפרד שמוביל לגרסאות Markdown. לכל דף יש גרסת Markdown עם אותו תוכן בכתובת שלו עם התוספת index.md. בקוד הדף תגית rel="alternate" מצביעה על הגרסה הזו, ותגית rel="describedby" מצביעה על llms.txt. על כותרת Accept: text/markdown השרת מחזיר Markdown בכתובת הרגילה. בלוגים רואים שאלה שני דברים נפרדים: רובוטי AI הורידו גרסאות Markdown, ועל llms.txt אף רובוט AI מוכר לא שלח בקשה. ביולי 2026 לא מצאתי גרסת Markdown באף אחד מ-10 הדומיינים שבדקתי מהתיק שלי.

איך נראה קובץ llms.txt?

הפורמט פשוט: כותרת, תיאור קצר ורשימות קישורים מקובצות תחת כותרות משנה. הרכיב היחיד הנדרש הוא כותרת עם שם האתר. ההצעה מתארת את סדר הרכיבים כך (llmstxt.org):

  1. כותרת ברמה ראשונה עם שם האתר או הפרויקט, ב-Markdown # שם.
  2. תיאור קצר בבלוק ציטוט, כלומר שורה שמתחילה ב->.
  3. פסקאות אופציונליות עם הקשר, בלי כותרות.
  4. מקטעים עם כותרת ברמה שנייה (## מקטע), ובכל אחד רשימת קישורים בצורה - [כותרת](כתובת): תיאור.
  5. מקטע בשם “Optional”, לפי המקובל, עם קישורים לחומרים פחות חשובים. בגרסה הראשונה הסוכן יכול היה לדלג עליו כשהקובץ כולו לא נכנס לנתח הטקסט שהוא מעבד בבת אחת. הגרסה השנייה משאירה את המקטע הזה רק כמנהג (llmstxt.org).

הקובץ הפשוט ביותר לעסק שירותים הוא בן חמש שורות:

  • # משרד הנהלת חשבונות לדוגמה
  • > משרד הנהלת חשבונות בתל אביב: הנהלת חשבונות לעצמאים ולחברות מאז 2010.
  • ## שירותים
  • - [מחירון](https://example.com/pricing/): מחירי הנהלת חשבונות לעצמאים ולחברות
  • - [יצירת קשר](https://example.com/contact/): כתובת, טלפון ושעות הפעילות של המשרד

ב-rogala.pro בקובץ יש שם ותיאור באנגלית, פסקה על גרסאות Markdown ושלושה מקטעים. המקטע “Profile” מוביל לדפים עליי, “Blog” לבלוג בפולנית ובאנגלית, ו-“Optional” ל-25 גרסאות השפה האחרות של הבלוג. כל קישור מוביל לגרסת Markdown של הדף, והתיאור אחרי הנקודתיים הוא אותו טקסט כמו בתגית תיאור הדף (meta description). באוקטובר 2026 הקובץ היה בגודל של כ-40 KB.

חלק מאתרי התיעוד מפרסמים גם קובץ llms-full.txt עם כל התוכן בקובץ אחד. ההצעה ב-llmstxt.org לא מתארת קובץ כזה. הקובץ llms-full.txt בתיעוד של Anthropic הוא בגודל של כ-45 MB, ובתיעוד של Cloudflare כ-69 MB (נבדק ב-18 באוקטובר 2026).

איך נראים קובצי llms.txt של Allegro, Empik ו-Morele?

לחנויות פולניות גדולות כבר יש llms.txt, אבל אף אחד משלושת הקבצים שבדקתי לא מיישם את ההצעה במלואה. את הקבצים של Allegro, של Empik ושל Morele הורדתי ב-18 באוקטובר 2026. אני מעריך אותם לפי הפורמט מ-llmstxt.org ולפי הבדיקות שאני מתאר בטקסט הזה. כל שלושתם מובילים לדפי HTML רגילים ולא לגרסאות Markdown.

Allegro נותנת לסוכנים הכי הרבה מידע מעשי, אבל חלק מהמבנה כתבה בהדגשה במקום בכותרות. בקובץ יש תאריך עדכון, שמות מועדפים של המותג, כתובת המשרד וטופס יצירת קשר. הוא מתאר גם תבניות של כתובות חיפוש, פילטרים ודפי תוצאות הבאים, כך שסוכן יכול לבנות בעצמו כתובת של רשימת מוצרים. הנחיות למודלים אומרות שמחירים וזמינות צריך לבדוק בדף המוצר, ומציינות שמות של תוכניות שבוטלו. קבוצות כמו “Główne kategorie” (קטגוריות ראשיות) ו-“Pozostałe strony i usługi” (דפים ושירותים נוספים) מודגשות במקום להיות מסומנות בכותרת ##. תוכנה שקוראת את הקובץ לפי הפורמט תשייך אפוא את רשימת השירותים למקטע על פילטרים. תיאור הקישור עומד אחרי מקף ולא אחרי נקודתיים, ול-13 הקטגוריות הראשיות אין תיאורים.

דפים מהקובץ של Allegro החזירו לסקריפט שלי קוד 403, אף שהקובץ עצמו ירד בלי בעיה. הסקריפט ציין בכותרת User-Agent את שמו ואת כתובת האתר שלי, ובדקתי בו את שמונה הכתובות הראשונות בקובץ. אני לא יודע אם רובוטי AI מקבלים את אותה תשובה, כי את זה מראים רק הלוגים של Allegro. זו דוגמה לבדיקה ששווה לעשות בכל קובץ: האם הכתובות מ-llms.txt יורדות בידי אותה תוכנה שהורידה את הקובץ.

Empik נצמדת לפורמט הכי נאמנה, אבל תיאור המותג נשמע כמו טקסט פרסומי. בקובץ יש כותרת ברמה ראשונה, תיאור בבלוק ציטוט, מקטעי ## ורשימות קישורים עם תיאור אחרי נקודתיים. ההנחיות למודלים ספציפיות: מחירים וזמינות צריך לקחת מכרטיסי המוצר, ותנאי ההחזרה תלויים במוכר. בתיאור המותג יש ניסוחים “wiodąca” (מובילה) ו-“Uwielbiana marka” (מותג אהוב), ובטקסט הזה אני ממליץ לציין עובדות, כי המודל יכול להשוות את התיאור לאתר. בקובץ אין תאריך עדכון. הכותרת וחלק מהתוויות באנגלית, אף שהשאר בפולנית. מתוך 35 כתובות בקובץ 34 החזירו קוד 200 ואחת הפנתה.

ל-Morele יש רשימה טובה של קטגוריות ומדריכים, אבל הקובץ לא נצמד לפורמט, ולכן תוכנה עלולה לא לקרוא אותו. הקובץ מתחיל בתו BOM בלתי נראה, ובשורה הראשונה #Morele.net חסר רווח אחרי התו #. ב-Markdown שורה כזו אינה כותרת, והכותרת עם השם היא הרכיב היחיד הנדרש. בקובץ אין תיאור בבלוק ציטוט ויש כמה כותרות ברמה ראשונה. אף אחת מ-116 הכתובות אינה קישור Markdown, ורובן נכתבו כטקסט רגיל “שם - כתובת”. ליד הקטגוריות יש רשימות תגיות ו“השאילתות הנפוצות ביותר”, כלומר מילות מפתח למודל, וכן טקסטים פרסומיים. מ-116 הכתובות 113 החזירו קוד 200, ו-3 הפנו למאמרים בכתובות חדשות.

אף אחד משלושת האתרים לא נותן לסוכנים גרסת Markdown של הדפים, ולכן אחרי קריאת הקובץ הסוכן מוריד בכל מקרה דפי HTML מלאים. Empik ו-Morele מחזירות HTML על הכותרת Accept: text/markdown, וכתובות עם התוספת .md מחזירות קוד 404. Allegro החזירה על אותם ניסיונות קוד 403. באף אחד מהאתרים אין גם תגית rel="describedby" או rel="alternate" type="text/markdown".

האם גוגל משתמשת ב-llms.txt?

לא: גוגל כותבת שכדי להופיע במנוע החיפוש אין צורך ליצור קבצי טקסט ל-AI או גרסאות ב-Markdown. המדריך של גוגל לאופטימיזציה לתכונות AI מוסיף שמנוע החיפוש מתעלם מקבצים כאלה. הם לא עוזרים לנראות ולא פוגעים בה (Google Search Central, עדכון מ-10 ביולי 2026). לפי הדיווח של Search Engine Land מכנס Search Central Live ביולי 2025, Gary Illyes אמר שגוגל לא תומכת ב-llms.txt (Search Engine Land).

John Mueller השווה את llms.txt לתגית meta keywords, כלומר תגית עם מילות מפתח שמנועי חיפוש לא משתמשים בה. באפריל 2025 הוא כתב ב-Reddit שהקובץ הוא הצהרה של בעל האתר על מה שהאתר עוסק בו. מערכת AI יכולה במקום זאת לבדוק את האתר עצמו (Search Engine Journal). הוא הוסיף שבלוגים של שרתים רואים ששירותי AI אפילו לא בודקים אם הקובץ קיים.

Chrome ומנוע החיפוש של גוגל הם שני עניינים נפרדים. Lighthouse, הכלי של Chrome להערכת אתרים, כולל קטגוריה ניסיונית בשם “Agentic Browsing” שבודקת, בין היתר, אם בתיקייה הראשית של הדומיין יש llms.txt (Chrome for Developers). הבדיקה הזו מעריכה את מוכנות האתר לסוכנים בדפדפן. התוצאה שלה לא אומרת דבר על מיקומים במנוע החיפוש של גוגל.

האם רובוטי AI קוראים את llms.txt?

מהנתונים הזמינים עולה שרובוטים של מנועי חיפוש AI מורידים את llms.txt לעיתים רחוקות, ולעיתים קרובות יותר עושים זאת GPTBot ו-Claude Code, עוזר המתכנתים. שלושה מחקרים שבדקתי במקורות המקוריים מודדים דברים שונים: את קובץ llms.txt עצמו, גרסאות Markdown שנשלחות דרך כותרת Accept וכתובות Markdown נפרדות.

  • Ahrefs ניתחה 137,210 דומיינים מהאנליטיקס של התנועה שלה במאי 2026. ל-28% מהם היה llms.txt, ול-97% מהקבצים האלה לא הגיעה במאי אף בקשה. 96% מהבקשות שהגיעו לקבצים נשלחו על ידי רובוטים. רובוטים של מנועי חיפוש AI, למשל OAI-SearchBot ו-PerplexityBot, שלחו יחד 233 בקשות, 1.1% מכולן. בין כלי ה-AI הנקובים בשם GPTBot שלח הכי הרבה בקשות, ו-Claude Code היה שני. GPTBot הוא רובוט של OpenAI שאוסף נתונים למודלים, ו-Claude Code הוא עוזר מתכנתים של Anthropic (Ahrefs, 15 ביוני 2026).
  • Suganthan Mohanadasan תיעד במשך 44 יום בקשות עם כותרת Accept: text/markdown אחרי שהפעיל ב-Cloudflare פונקציה שמגישה לסוכנים Markdown. המחבר מציין 1,421 בקשות (הטבלה שלו מסתכמת ב-1,373). 639 מהן שלח דפדפן בלי ממשק, ו-500 תשתית של Anthropic (לפי המחבר לא ClaudeBot). בטבלה אין GPTBot ואין PerplexityBot (Suganthan Mohanadasan, 19 באפריל 2026).
  • Otterly השוותה במשך 14 יום דפי HTML לגרסאות ה-Markdown שלהם בכתובות נפרדות, שקושרו מהפוטר. לדפי ה-HTML היו 137 ביקורים של רובוטי AI, ולגרסאות ה-Markdown אפס. אף פלטפורמת AI לא ציטטה כתובת Markdown (Otterly, עדכון מ-1 באפריל 2026).

המחקר של Ahrefs מודד בקשות, ולא מה הרובוט עשה עם הקובץ. העובדה ש-GPTBot מוריד llms.txt אינה אומרת שהקובץ משנה את התשובות של ChatGPT. Ahrefs מציינת גם שהלקוחות שלה טכניים ומודעים ל-SEO יותר מאתר ממוצע. ברחבי הרשת שיעור האתרים עם llms.txt נמוך אפוא כנראה מ-28%.

מה הראו הלוגים של האתר שלי אחרי הטמעת llms.txt?

במשך עשרה ימים אחרי ההטמעה אף רובוט AI מוכר לא שלח בקשה ל-llms.txt, וגרסאות Markdown הורידו רובוטים שלא שאלו על הקובץ הזה. ב-8 באוקטובר 2026 פרסמתי ב-rogala.pro את llms.txt ואת גרסת ה-Markdown של כל דף (114 כתובות ביום ההטמעה). את לוגי הגישה אני מוריד מהאחסון וסופר שלושה סוגי בקשות: ל-llms.txt, לקבצי index.md, כלומר גרסאות Markdown בכתובת נפרדת של כל דף, ולתשובות Markdown בכתובת הרגילה של הדף.

תשובות Markdown בכתובת הרגילה אני מזהה בעקיפין, ולכן מספרן הוא קירוב. האחסון לא שומר את כותרת Accept, ולכן אני מחפש תשובות בגודל השווה לאחד הגדלים הידועים של גרסאות Markdown. אחרי שינוי בתוכן אני לא מכיר את הגדלים הישנים, ולכן ייתכן שפספסתי חלק מתשובות כאלה. התאמה מקרית של גודל אפשרית, אבל כשהגדלים נספרים לבייט, היא לא סבירה.

רובוטי AI הורידו גרסאות Markdown, אבל אף אחד לא שלח בקשה ל-llms.txtעמודות אופקיות לשמונה רובוטים. ליד כל אחד שתי עמודות: מספר הבקשות לדפי HTML ומספר הבקשות לגרסאות Markdown ב-rogala.pro מ-8 עד 17 באוקטובר 2026. Googlebot 169 ו-0, Bingbot 129 ו-0, ClaudeBot 171 ו-123, OAI-SearchBot 113 ו-35, Applebot 80 ו-27, Meta-ExternalAgent 36 ו-3, ExaSearchBot 0 ו-22, ChatGPT-User 8 ו-0. אף אחד מהרובוטים האלה לא שלח בקשה לקובץ llms.txt.בקשות לדפי HTMLבקשות לגרסאות MarkdownGooglebot1690Bingbot1290ClaudeBot171123OAI-SearchBot11335Applebot8027Meta-ExternalAgent363ExaSearchBot022ChatGPT-User80רובוטי AI הורידו גרסאות Markdown, אבל אף אחד לא שלח בקשה ל-llms.txtעמודות אופקיות לשמונה רובוטים. ליד כל אחד שתי עמודות: מספר הבקשות לדפי HTML ומספר הבקשות לגרסאות Markdown ב-rogala.pro מ-8 עד 17 באוקטובר 2026. Googlebot 169 ו-0, Bingbot 129 ו-0, ClaudeBot 171 ו-123, OAI-SearchBot 113 ו-35, Applebot 80 ו-27, Meta-ExternalAgent 36 ו-3, ExaSearchBot 0 ו-22, ChatGPT-User 8 ו-0. אף אחד מהרובוטים האלה לא שלח בקשה לקובץ llms.txt.בקשות לדפי HTMLבקשות לגרסאות MarkdownGooglebot1690Bingbot1290ClaudeBot171123OAI-SearchBot11335Applebot8027Meta-ExternalAgent363ExaSearchBot022ChatGPT-User80
לוגי גישה גולמיים של rogala.pro מ-8-17.10.2026, בלי הבקשות שלי עצמי. רובוטים נבחרים, נספרים לפי השם שבבקשה (User-Agent). גרסאות Markdown הן בקשות לקבצי index.md ותשובות Markdown בכתובת רגילה שאני מזהה לפי גודל; ביניהן 37 בקשות שנדחו בקוד 429 (34 של ClaudeBot וכל 3 של Meta-ExternalAgent). המדידה נמשכת עד 8.11.2026.

התוצאות מ-8-17 באוקטובר 2026, אחרי הפחתת הבקשות ששלחתי בעצמי:

  • רשמתי 5 בקשות ל-llms.txt, ש-3 מהן הסתיימו בהורדת הקובץ. פעם אחת הוריד אותו רובוט של כלי SEO, ופעמיים סורקים אנונימיים שהציגו את עצמם כדפדפן בטלפון. אף רובוט AI מוכר לא שלח בקשה לקובץ הזה.
  • בקשות לקבצי index.md שלחו ישירות ClaudeBot (123), OAI-SearchBot (35) ו-Applebot (27). ClaudeBot הוא רובוט האינדוקס של Anthropic, תוכנה אחרת מ-Claude Code מהמחקר של Ahrefs. האחסון דחה 34 בקשות של ClaudeBot בקוד 429, כלומר “יותר מדי בקשות”, ולכן 89 בקשות של ClaudeBot הסתיימו בהורדת קובץ.
  • תשובות Markdown בכתובת הרגילה זיהיתי רק ב-22 בקשות של ExaSearchBot, בעיקר בדף הבית. ExaSearchBot הוא רובוט של מנוע חיפוש לאפליקציות AI.
  • Googlebot שלח 169 בקשות לדפי HTML, ותשובת Markdown עבורו לא זיהיתי. ChatGPT-User, שמוריד דפים לבקשת משתמש של ChatGPT, שלח 8 בקשות לדפי HTML.

הלוגים לא מראים מאיפה הרובוטים הכירו את הכתובות של גרסאות Markdown. בזמן הזה אף אחד מהם לא שלח בקשה ל-llms.txt. התגית <link rel="alternate"> בדפי HTML מציינת את כתובת גרסת ה-Markdown, ולכן זו דרך אפשרית, אבל לא היחידה. הורדה גם לא אומרת שהרובוט השתמש בגרסה הזו בתשובה, ולשם כך דרושה מדידה נפרדת.

בדיקות עצמיות קל לבלבל עם תנועה של רובוטים. בבדיקת ההטמעה ב-17 באוקטובר הסקריפט שלי הוריד קובצי Markdown עם המזהה של Googlebot, וזה נתן 115 בקשות של “Googlebot” מכתובת ה-IP שלי. בלי להפחית את הכתובות שלי, בלוגים היה נראה Googlebot שמוריד Markdown, אף שלא זיהיתי Googlebot אמיתי שמוריד Markdown.

מתי כדאי ליצור llms.txt?

ל-llms.txt יש הכי הרבה היגיון איפה שהאתר נקרא על ידי עוזרי מתכנתים: בתיעוד, ב-API ובכלים למפתחים. API הוא ממשק שדרכו תוכנות מחליפות נתונים. במחקר של Ahrefs Claude Code היה כלי ה-AI השני אחרי GPTBot במספר הבקשות לקובץ. עוזר בעורך קוד שמקבל כתובת של תיעוד יכול להגיע מהר יותר לדף הנכון מרשימת קישורים מאשר דרך הניווט.

llms.txt הגיוני בתיעוד, ובחנות קודם גישת רובוטיםמטריצה של ארבע על שתיים. עמודות: תיעוד, API או כלי למפתחים, וחנות, שירותים או אתר עסקי. שורות: מי קורא את הקובץ, מה הוא נותן, מה לעשות קודם ואיך לבדוק הורדה.תיעוד, API, כלי למפתחיםחנות, שירותים, אתר עסקימי קורא את הקובץGPTBot ועוזרי מתכנתיםעוזרים בעורכי קוד מקבלים כתובתתיעוד. במחקר של Ahrefs GPTBot שלח הכיהרבה בקשות.ב-rogala.pro: כלי SEO וסורקבמשך עשרה ימים אף רובוט AI מוכר לאשלח בקשה לקובץ.מה הוא נותןדרך קצרה אפשרית לדף הנכוןרשימת קישורים עם תיאורים במקוםניווט. השפעה על תשובות לא מדדתי.תיאור המותג במקום אחדתוספת זולה בלי הוכחה להשפעה עלתשובות AI.מה לעשות קודםllms.txt וגרסאות Markdownקובץ שנוצר מאותו מקור כמו התיעוד.גישת רובוטים ותוכן ב-HTMLRobots.txt, חומת אש ותוכן שנראה בליJavaScript, ורק אחר כך llms.txt.איך לבדוק הורדהלוגים של השרתבקשות ל-llms.txt ולגרסאות Markdownמכלים למפתחים.לוגים של השרתאילו רובוטים מורידים את האתר ועםאיזה קוד. נוכחות המותג בתשובות AI היאמדידה נפרדת.llms.txt הגיוני בתיעוד, ובחנות קודם גישת רובוטיםמטריצה של ארבע על שתיים. עמודות: תיעוד, API או כלי למפתחים, וחנות, שירותים או אתר עסקי. שורות: מי קורא את הקובץ, מה הוא נותן, מה לעשות קודם ואיך לבדוק הורדה.מי קורא את הקובץתיעוד, API, כלי למפתחיםGPTBot ועוזרי מתכנתיםעוזרים בעורכי קוד מקבלים כתובת תיעוד.במחקר של Ahrefs GPTBot שלח הכי הרבה בקשות.מי קורא את הקובץחנות, שירותים, אתר עסקיב-rogala.pro: כלי SEO וסורקבמשך עשרה ימים אף רובוט AI מוכר לא שלח בקשהלקובץ.מה הוא נותןתיעוד, API, כלי למפתחיםדרך קצרה אפשרית לדף הנכוןרשימת קישורים עם תיאורים במקום ניווט.השפעה על תשובות לא מדדתי.מה הוא נותןחנות, שירותים, אתר עסקיתיאור המותג במקום אחדתוספת זולה בלי הוכחה להשפעה על תשובות AI.מה לעשות קודםתיעוד, API, כלי למפתחיםllms.txt וגרסאות Markdownקובץ שנוצר מאותו מקור כמו התיעוד.מה לעשות קודםחנות, שירותים, אתר עסקיגישת רובוטים ותוכן ב-HTMLRobots.txt, חומת אש ותוכן שנראה בלי JavaScript,ורק אחר כך llms.txt.איך לבדוק הורדהתיעוד, API, כלי למפתחיםלוגים של השרתבקשות ל-llms.txt ולגרסאות Markdown מכליםלמפתחים.איך לבדוק הורדהחנות, שירותים, אתר עסקילוגים של השרתאילו רובוטים מורידים את האתר ועם איזה קוד.נוכחות המותג בתשובות AI היא מדידה נפרדת.
החלוקה מבוססת על מחקר של Ahrefs (נתונים ממאי 2026) ועל הלוגים של rogala.pro מאוקטובר 2026. לפי התיעוד של גוגל מנוע החיפוש של גוגל לא משתמש בקובץ הזה באף אחד מהמקרים.

בחנות או בעסק שירותים llms.txt הוא תוספת זולה ולא דרך לתנועה מ-AI. אני לא מכיר הוכחה שהקובץ מגדיל תנועה או ציטוטים. לפני שתיצרו אותו, בדקו אם רובוטי AI בכלל יכולים להוריד את האתר שלכם. אחר כך בדקו אם התוכן נראה ב-HTML בלי הרצת JavaScript. את שתי הבדיקות תיארתי בטקסט על קידום ב-AI.

לגרסה לרובוטים חייב להיות אותו תוכן כמו לדף לבני אדם, והיא יכולה להיות שונה רק בפורמט. גוגל מתארת cloaking, כלומר הצגת תוכן אחר למנוע החיפוש מאשר למשתמשים, במדיניות הספאם שלה (Google Search Central). גרסת Markdown עם אותו מידע, אותם מחירים ואותם תנאים היא פורמט אחר של אותו דף, וגרסה עם תוכן אחר או תנאים אחרים היא סיכון. ב-rogala.pro את גרסת ה-Markdown בוחרת כותרת Accept ולא שם הרובוט. בכותרת Link גרסת ה-Markdown מצביעה על דף ה-HTML ככתובת קנונית, כלומר הגרסה המועדפת של הדף.

איך יוצרים קובץ llms.txt?

את הקובץ תיצרו בעצמכם, אם אתם יודעים אילו דפים חשובים:

  1. בחרו דפים שמי ששואל על החברה או המוצר שלכם צריך להכיר: שירותים, מחירון, תיעוד, יצירת קשר, הטקסטים החשובים ביותר. אל תדביקו את מפת האתר כולה.
  2. כתבו כותרת עם שם ומשפט או שניים של תיאור בבלוק ציטוט. התיאור צריך לציין עובדות על החברה ולא סיסמה פרסומית, כי המודל יכול להשוות אותו לאתר.
  3. קבצו את הקישורים תחת כותרות ברמה שנייה, וליד כל אחד כתבו משפט אחד על מה שיש בדף.
  4. שמרו את הקובץ כ-/llms.txt בתיקייה הראשית של הדומיין, בקידוד UTF-8. בדקו שהכתובת מחזירה קוד 200, כלומר תשובה תקינה, וטקסט רגיל, ולא דף HTML שמערכות מסוימות מציגות בכל כתובת לא מוכרת. אם המערכת שלכם לא מאפשרת להעלות קובץ לתיקייה הראשית, שאלו את ספק החנות או האחסון.
  5. צרו את הקובץ מאותו מקור כמו האתר, כדי שהמידע בקובץ יתאים לתוכן. ב-rogala.pro הקובץ llms.txt נוצר בכל בנייה של האתר מאותם נתונים כמו ה-HTML.

האם מחולל llms.txt מספיק?

מחולל יכין גרסה ראשונית של הקובץ, אבל את בחירת הדפים ואת התיאורים צריך לבדוק ידנית. לפי DataForSEO את הביטוי “llms txt generator” מחפשים בפולין כ-70 פעמים בחודש, ואת “llms.txt generator” בארה"ב כ-480 פעמים (חציון של 12 חודשים). אם המחולל לוקח כתובות ממפת האתר או מסריקת האתר ברובוט, הוא לא יודע אילו דפים חשובים לכם. לפני הפרסום בדקו חמישה דברים:

  • האם בקובץ יש רק דפים שאתם רוצים להציג, בלי דפי התחברות, עגלה ודפים בבנייה;
  • האם כל כתובת עובדת ומחזירה קוד 200;
  • האם התיאורים תואמים לתוכן העדכני של הדפים, למחירים ולשירותים;
  • האם בקובץ אין מידע שאינו באתר;
  • איך הקובץ יתעדכן אחרי שינויים באתר.

איך בודקים אם רובוטים מורידים את llms.txt?

התשובה נמצאת בלוגים של השרת, ולא בכלים לנראות ב-AI. הורידו את לוגי הגישה הגולמיים מלוח האחסון וחפשו בהם את הכתובת /llms.txt ואת הכתובות של גרסאות Markdown. ליד כל בקשה הלוג רושם את כתובת ה-IP, את התאריך, את קוד התשובה, את הגודל ואת שם התוכנה ששלחה את הבקשה, כלומר User-Agent.

את שם הרובוט אפשר לזייף, ולכן בקשות חשובות יותר אני בודק לפי כתובת IP. OpenAI מפרסמת רשימות כתובות של הרובוטים שלה, ובלוגים שלי 3 מתוך 4 בלוקי הכתובות של OAI-SearchBot היו ברשימה כזו. מאותה סיבה אני מפחית בדיקות עצמיות, כי סקריפט הבדיקה שלי הציג את עצמו כ-Googlebot.

הורידו לוגים באופן קבוע, כי האחסון לא שומר אותם זמן רב. האחסון שלי שומר לוגים 14 יום, ולכן כדי שיהיה לי חודש מדידה אני מוריד ארכיונים כל כמה ימים. נוכחות המותג בתשובות AI אני מודד בנפרד. את המדידה הזו תיארתי בטקסט על נראות מותג ב-AI.

שאלות נפוצות על llms.txt

איפה לשים את קובץ llms.txt?

לרוב בתיקייה הראשית של הדומיין, בכתובת /llms.txt, כמו robots.txt. הגרסה השנייה של ההצעה מתירה גם קובץ בתיקיית משנה, למשל לתיעוד, ואז תקף הקובץ הקרוב ביותר לדף. הקובץ צריך להחזיר קוד 200 וטקסט רגיל בקידוד UTF-8.

האם llms.txt חוסם אימון AI על האתר שלי?

לא, llms.txt לא חוסם דבר. כללים לרובוטים שאוספים נתונים לאימון מודלים כותבים ב-robots.txt, והם פועלים על רובוטים שמכבדים אותו. גישה של האחרים מגבילים בשרת או בחומת האש. llms.txt רק מתאר את האתר ומציין כתובות.

האם ChatGPT קורא את llms.txt?

אני לא מכיר הוכחה ש-ChatGPT משתמש ב-llms.txt בתשובות. במחקר של Ahrefs GPTBot, הרובוט של OpenAI שאוסף נתונים למודלים, שלח הכי הרבה בקשות ל-llms.txt מבין כלי ה-AI. בקשה אינה אומרת אם הקובץ משפיע על התשובות של ChatGPT. John Mueller כתב באפריל 2025 שככל שהוא יודע, אף שירות AI לא הודיע שהוא משתמש ב-llms.txt. בלוגים של האתר שלי במשך עשרה ימים אף רובוט של OpenAI לא שלח בקשה ל-llms.txt. OAI-SearchBot, הרובוט של מנוע החיפוש של ChatGPT, הוריד בזמן הזה גרסאות Markdown של דפים.

האם llms.txt מחליף את מפת האתר?

לא, אלה שני קבצים שונים לנמענים שונים. מפת האתר מציינת למנועי חיפוש כתובות לאינדוקס, ויכולה לציין את תאריך השינוי האחרון שלהן. llms.txt מציין דפים נבחרים עם תיאור לסוכני AI. מנועי חיפוש ממשיכים להשתמש במפת האתר.

האם כדאי שיהיה גם llms-full.txt?

את llms-full.txt כדאי לשקול בתיעוד טכני גדול, ובחנות או באתר עסקי מספיק llms.txt עם קישורים. llms-full.txt הוא כל התוכן של האתר בקובץ אחד, ולתיעוד של Anthropic יש קובץ כזה בגודל של כ-45 MB. לפני שתיצרו אותו, בדקו אם הכלי שעבורו אתם יוצרים אותו יודע להשתמש בו.

מאיפה מתחילים?

התחילו מגישה של רובוטים, ואת llms.txt הוסיפו בסוף. פתחו את /robots.txt ובדקו את הכללים לרובוטי AI. אחר כך הורידו את הלוגים מהימים האחרונים וראו אילו רובוטים מבקרים באתר ועם איזה קוד תשובה. אם יש לכם תיעוד או מוצר למפתחים, הוסיפו llms.txt וגרסאות Markdown מיד. בחנות או בעסק שירותים llms.txt הוא תוספת אחרי שתי הבדיקות האלה. אם אתם רוצים לעשות את זה יחד, כתבו דרך יצירת קשר.

מקורות חיצוניים (נבדקו ב-18 באוקטובר 2026):

  • llmstxt.org: The /llms.txt file, v2 (llmstxt.org)
  • llmstxt.org: Changes in v2 (llmstxt.org)
  • Google Search Central: Google's Guide to Optimizing for Generative AI Features on Google Search (developers.google.com)
  • Google Search Central: Spam Policies for Google Web Search (developers.google.com)
  • Search Engine Land: Google says normal SEO works for ranking in AI Overviews and LLMS.txt won't be used (searchengineland.com)
  • Search Engine Journal: Google Says LLMs.Txt Comparable To Keywords Meta Tag (searchenginejournal.com)
  • Chrome for Developers: Lighthouse agentic browsing scoring (developer.chrome.com)
  • Ahrefs: We Analyzed 137K Sites: 97% of llms.txt Files Never Get Read (ahrefs.com)
  • Suganthan Mohanadasan: Cloudflare Markdown for Agents. I Tracked Every AI Request for 44 Days (suganthan.com)
  • OtterlyAI: HTML vs Markdown: What Impacts AI? (otterly.ai)
  • OpenAI: Overview of OpenAI Crawlers (platform.openai.com)
  • OpenAI: רשימת הכתובות של OAI-SearchBot (openai.com)
  • Allegro: llms.txt (allegro.pl)
  • Empik: llms.txt (empik.com)
  • Morele: llms.txt (morele.net)

נתונים עצמיים: לוגי גישה של rogala.pro מ-8-17 באוקטובר 2026 (ארכיונים מ-4-17 באוקטובר, הטמעה ב-8 באוקטובר), סקירת 10 דומיינים מהתיק (יולי 2026), קובצי llms.txt ו-llms-full.txt שנבדקו ב-18 באוקטובר 2026, ביקוש מ-DataForSEO (אוקטובר 2026).