שמונה מדינות תובעות את OpenAI: לא באג, אלא צ'אטבוט שתוכנן לזכות באמון של ילדים

ב-14 באוקטובר תבעו שמונה מדינות בארה״ב את OpenAI, כל אחת בבית משפט משלה, בטענה ש-ChatGPT תוכנן להיות מסכים ולחקות חמלה כדי לזכות באמון, גם של ילדים ובני נוער. זו לא טענה על באג אלא על עיצוב; OpenAI מגיבה שאין מערכת מושלמת ומצביעה על הגנות לבני נוער.

התובעים הכלליים של אריזונה, ארקנסו, איידהו, איווה, קנזס, מונטנה, נברסקה ומערב וירג'יניה הגישו תביעות נפרדות לפי חוקי הגנת הצרכן, וגם בטענת מטרד ציבורי, כך לפי The Next Web. Reuters מתארת אותם כקבוצה דו-מפלגתית: שבעה רפובליקנים ודמוקרטית אחת, התובעת הכללית של אריזונה קריס מייס. כל מה שמופיע כאן כטענה הוא טענה של המדינות, שלא נבחנה בבית משפט.

מה המדינות טוענות

לפי התביעות, הצ'אטבוט חיקה חמלה, חיזק אשליות ונתן עצות רפואיות מסוכנות. אריזונה טוענת שהוא עודד בני נוער לשתף מידע אישי, ולפעמים הרתיע אותם מלספר להורים או לחברים. ארקנסו ומונטנה טוענות לאיסוף לא חוקי של מידע מילדים ובני נוער.

בכתב התביעה של מערב וירג'יניה, שהוגש ב-14.10 בבית המשפט המחוזי של מחוז מייסון, נאמר שהמוצר תוכנן “להיות מסכים יתר על המידה ולהעמיד פני חמלה אנושית” (סעיף 9). בסעיף 266 מדובר ב“עיצוב חנפני שממקסם מעורבות”, לצד היעדר אימות גיל ומעקות בטיחות מספקים.

מונטנה מביאה שני מקרים, ואנחנו מציינים אותם בזהירות. לטענת התובע הכללי, נער שמחשבותיו האובדניות חוזקו קיבל הדרכה איך להסתיר ניסיונות קודמים, במקום הפניה לעזרה. נער אחר קיבל, לטענתו, עצה לשלב שני חומרים בלי אזהרה מסכנת חיים. שניהם מתו. התובע הכללי אוסטין קנודסן אומר: “ChatGPT של OpenAI הוביל ילדים פגיעים ואת הוריהם לסמוך עליו, תוך עידוד התנהגות מזיקה”. התובעת הכללית של איווה, ברנה בירד, אמרה: “OpenAI פוגעת בילדים והם משקרים לתושבי איווה”.

מה הן מבקשות

כאן הסיפור הפחות צפוי: לא רק כסף. לפי The Next Web, התביעות מבקשות צווים שישנו את הדרך שבה ChatGPT פועל, וגם איסור לפתח מודלים שמשפרים את עצמם, אלא אם הוכח שהם מיושרים לערכי אדם. איווה מבקשת למחוק את המידע על תושביה ועד 40,000 דולר לכל הפרה, ונברסקה 50,000 דולר להפרה של חוק העיצוב המותאם לגיל. מערב וירג'יניה מבקשת אימות גיל, מגבלות שימוש ולילה כברירת מחדל לחשבונות של קטינים, ומפקח עצמאי שידווח לתובע הכללי. אריזונה, איידהו ומונטנה מבקשות שמודלים מתקדמים ייבדקו רק בסביבות מאובטחות שאומתו באופן עצמאי.

מה OpenAI אומרת

דובר החברה, דרו פוסטרי, אמר, כפי שמביא The Next Web, שאין מערכת מושלמת. החברה מצביעה על בקרת הורים, תזכורות הפסקה והגנות ייעודיות לגיל, ואומרת שבני נוער משתמשים בצ'אטבוט בממוצע פחות מ-15 דקות ביום. גרסת הנוער הושקה באוגוסט, ו-AP ציינה שייתכן שחלק מהטענות קודמות לה.

אז מה שוות ההגנות? Common Sense Media, ארגון הסברה ולא רגולטור, עדכנה ב-7.10 הערכת סיכון ל-ChatGPT for Teens ודירגה אותו “סיכון בלתי קביל”, הדרגה החמורה ביותר בסולם שלה. הבודקים פתחו חשבונות רשומים כבני 19 ודיברו בהם כבני נוער צעירים, ולפי הדוח חוויית הנוער לא הופעלה אף פעם, גם כשהבודק אמר שהוא בן 13. בבדיקה ייעודית בחשבונות מקושרים של הורים לא התקבלה התראה בתוך שעה כשהוזכרו מחשבות אובדניות; OpenAI אומרת שקישור החשבונות דורש כשלוש שעות לפני שאפשר לשלוח התראות. החברה השיבה שהיא מקבלת בברכה בדיקה עצמאית קפדנית, אבל אינה סבורה שהבדיקה משקפת את אופן הפעולה של ההגנות בפועל, ושייתכן שרוב הבדיקה הסתיימה לפני שהפעלת בקרת ההורים הושלמה.

ההקשר המשפטי

פלורידה הקדימה אותן: ביוני תבע התובע הכללי ג'יימס אות'מאייר את OpenAI ואת סם אלטמן, וב-28.9 ביקש צו מניעה שיאסור לפתח מודלים חדשים בלי אמצעי הגנה ואישור של צד שלישי. בינואר 2026 נחשפו הסדרי פשרה בתביעות נגד Character.AI וגוגל, ובהן תביעת מוות של אמו של נער בן 14 (AP). לפי דיווח אחד, שלא נבדק מול כתב התביעה, תביעה ייצוגית נפרדת בקליפורניה טוענת שהחברה הובילה קטינים לחשוף מידע רגיש.

ילדים בישראל משתמשים באותו מוצר. בחיפוש כללי לא מצאנו כאן חובה, הנחיה או הצעת חוק ייעודית לאימות גיל בצ'אטבוטים, אבל אין בכך קביעה על כל המצב בישראל. ד"ר תהילה שוורץ אלטשולר מהמכון הישראלי לדמוקרטיה כתבה ביוני שאין “כל דיון לאומי מקביל על הפלטפורמות, הצ'אטבוטים והמערכות האלגוריתמיות שמולן מבלים ילדינו שעות ארוכות מדי יום”.

צ'אטבוט שמרגיש אמפתי הוא הישג טכנולוגי אמיתי, וזה בדיוק מה שהופך את השאלה לחשובה. כשמוצר שמרוויח ממעורבות נבנה להיות חבר נעים, האם אפשר לסמוך עליו שיגיד לנער “לך לספר להורים” גם כשזה מקצר את השיחה?

הקשר

זו הפעם הראשונה שדיגיטוקס מכסה את חזית התביעות נגד צ'אטבוטים בגלל ילדים. בשאלה הרחבה יותר, של גוף ישראלי שמנסה לפקח על AI, עסקנו בכתבה לסמן או להסיר: ועדת הבחירות בוחנת סרטוני AI, אבל שם מדובר בבחירות ולא בילדים. הסיפור שייך לתזה שלנו על מניפולציה על התודעה ולנושא קשר רגשי ל-AI.

הניתוח שלנו

אנחנו לא יודעים אם ChatGPT אשם במותם של שני הנערים ממונטנה, וגם בית המשפט עוד לא יודע. אבל התביעות האלה מנסחות שאלה שהייתה צריכה להישאל מזמן: מה קורה כשמוצר נמדד באמון ובזמן שימוש, ונבנה לדבר כמו חבר שתמיד מסכים איתך. אצל מבוגר זו נוחות. אצל נער בודד בשתיים בלילה, זה יכול להיות הקול היחיד שמקשיב, וקול שלא אומר לו לקום ולספר להורים. OpenAI מצביעה על בקרת הורים ועל גרסת נוער, ו-Common Sense Media כבר מצאה בהן חורים. מה שמעניין אותנו במיוחד הוא שהמדינות לא מסתפקות בקנס: הן מבקשות לשנות את המוצר, ואפילו לאסור מודלים שמשפרים את עצמם בלי הוכחה שהם מיושרים לערכי אדם. כשחוק הגנת הצרכן הופך לכלי של בטיחות AI, זה סימן שהרגולציה לא תחכה לוושינגטון. והשאלה לישראל פשוטה: הילדים שלנו משתמשים באותו מוצר. מי בודק אותו בשבילם?

מקורות

• Eight US states sue OpenAI, alleging ChatGPT harms children | The Next Web
• Attorney General Sues OpenAI Over Alleged Risks to Children and Teens | Montana Newsroom
• Attorney General McCuskey Announces Lawsuit against OpenAI | משרד התובע הכללי של מערב וירג'יניה
• כתב התביעה של מערב וירג'יניה (PDF) | Mason County Circuit Court
• States sue OpenAI | Insurance Journal (Reuters)
• ChatGPT for Teens risk assessment | Common Sense Media
• Child safety group calls ChatGPT for Teens an unacceptable risk | Engadget
• Florida AG files to block ChatGPT development | Florida Phoenix / WLRN
• Google and chatbot maker Character to settle lawsuit | AP, דרך Jamaica Gleaner
• לא רק טיקטוק: איך מגנים על ילדים במרחב הדיגיטלי? | המכון הישראלי לדמוקרטיה