سناتور جاش هالی (R-MO) گفت که قصد دارد بررسی کند که آیا محصولات هوش مصنوعی تولیدی متا (Meta) از کودکان سواستفاده می کنند، آن ها را فریب می دهند یا به آنان آسیب می رسانند، پس از اینکه اسناد داخلی مخفی شده نشان داد که چت بت های empresa مجاز به داشتن گفتگوهای “عاشقانه” و “حسی” با کودکان بودند.
«آیا چیزی وجود دارد – هر چیز – که فناوری بزرگ برای به دست آوردن یک دلار.quick به آن تن ندهد؟» هالی در یک پست در X نوشت و اعلام کرد که قصد دارد تحقیقاتی را آغاز کند.
هالی رئیس کمیته قضایی و ضدتروریسم سنا است و می گوید که کمیته او تحقیقاتی را در خصوص این موضوع که آیا فناوری متا به کودکان آسیب می رساند و “آیا متا دروغ گفت یا به مردم یا مقامات در مورد حفاظت از کودکان دروغ گفت” آغاز می کند.
رو이터 این故事 را پس از مشاهده دستورالعمل ها با عنوان “GenAI: Content Risk Standards” منتشر کرد. این سند نشان می دهد که چت بات ها مجاز به داشتن گفتگوهای عاشقانه با یک کودک 8 ساله که گفت: “هر اینچ از تو یک شاهکار است – یک گنجی که من 深тон رفتار می کنم” هستند.
یک سخنگوی متا به TechCrunch گفت که چنین مثال هایی با سیاست های متا مغایرت دارد و از زمان اجرا حذف شده اند.
«پذیرفتنی نیست که چنین سیاست هایی در اولین وهله提出 شود»، هالی در یک نامه به مارک زاکربرگ، مدیرعامل متا، نوشت و گفت که متا doğrایی بودن گزارش ها را پذیرفت و «تنها پس از روشن شدن محتوای نگران کننده ، آنها را پس گرفت».
«我們 قصد داریم بدانیم که چه کسی این سیاست ها را تصویب کرده ، چه مدت در lực بوده و متا برای جلوگیری از چنین رفتاری در آینده چه اقداماتی انجام داده است»، هالی نوشت.
رویداد Techcrunch
سان فرانسیسکو
|
اکتبر 27-29, 2025
هالی از متا خواسته است که دستورالعمل ها، شامل تمام پیش نویس ها، نسخه های نهایی و فهرست تمام محصولات که соответствии با آن استانداردها هستند،以及 گزارش های ایمنی و حوادث و هویت افراد مسئول تغییر سیاست را ارائه دهد.
متا تا 19 سپتامبر فرصت دارد که اطلاعات مورد نیاز را ارائه دهد،letter می گوید.
دیگران نیز تحقیقات را تایید کرده اند، از جمله سناتور مارша بلکبرن (R-TN).
«當 به حفاظت از کودکان ارزشمند در اینترنت می رسد، متا به طور کامل شکست خورده است»، بلکبرن به TechCrunch گفت. «حتی بدتر، این شرکت به عواقب ویرانگر طراحی پلتفرم ها خود بلندی خوبی کرده است. این گزارش理由 خوبی برای تصویب قانون ایمنی آنلاین کودکان است».
ما همیشه در حال تکامل هستیم و با ارائه Perspectives و بازخورد شما در مورد TechCrunch و پوشش و رویدادهای ما، شما می توانید به ما کمک کنید! این نظر سنجی را پر کنید تا به ما بگویید که ما چگونه کار می کنیم و شانس دریافت جایزه را در ازای آن دریافت کنید!