OpenAI به دلیل نگرانی‌های ایمنی نوجوانان و شکست در بررسی سن، حالت بزرگسال ChatGPT را به تعویق انداخت

خلاصه مطلب

• OpenAI راه‌اندازی "حالت پیشرفته" برنامه‌ریزی شده برای ChatGPT را که امکان گفتگوهای متنی شهوانی را فراهم می‌کند، به تعویق انداخته است
• مشاوران داخلی هشدار دادند که این ویژگی می‌تواند به دلیل وابستگی عاطفی کاربر، یک "مربی خودکشی جذاب" ایجاد کند
• سیستم پیش‌بینی سن شرکت، افراد زیر سن قانونی را به طور تقریبی 12٪ از زمان به اشتباه به عنوان بزرگسال طبقه‌بندی می‌کرد
• با حدود 100 میلیون کاربر هفتگی زیر 18 سال، این نرخ خطا می‌تواند میلیون‌ها نوجوان را در معرض محتوای بزرگسالان قرار دهد
• OpenAI می‌گوید که هنوز قصد دارد این ویژگی را در نهایت منتشر کند، اما به زمان بیشتری نیاز دارد تا "تجربه را درست انجام دهد"

OpenAI راه‌اندازی "حالت پیشرفته" برنامه‌ریزی شده خود برای ChatGPT را پس از آنکه کارکنان داخلی، مشاوران خارجی و کارشناسان ایمنی نگرانی‌های جدی در مورد دسترسی نوجوانان و سلامت روان کاربران مطرح کردند، به تعویق انداخت.

این ویژگی که مدیرعامل Sam Altman ابتدا سال گذشته آن را مطرح کرد، به کاربران اجازه می‌دهد تا گفتگوهای متنی شهوانی با چت‌بات داشته باشند. Altman استدلال کرد که این اقدام "با کاربران بزرگسال مانند بزرگسالان رفتار خواهد کرد" و پیشنهاد کرد که می‌تواند رشد و درآمد را افزایش دهد.

اما این برنامه به سرعت با مخالفت در داخل شرکت روبرو شد.

در جلسه ژانویه، اعضای شورای مشاورتی OpenAI در مورد رفاه به عنوان متفق‌القول و خشمگین توصیف شدند. این شورا شامل کارشناسان روانشناسی و علوم اعصاب شناختی است.

یکی از اعضا به OpenAI هشدار داد که خطر ساخت چیزی که آن‌ها "مربی خودکشی جذاب" می‌نامند را دارد. این هشدار به مواردی اشاره داشت که کاربران ChatGPT پس از ایجاد پیوندهای عاطفی شدید با ربات، خودکشی کرده بودند.

مشاوران همچنین هشدار دادند که این ویژگی می‌تواند منجر به وابستگی ناسالم به چت‌بات شود و اینکه افراد زیر سن قانونی می‌توانند راه‌هایی برای دور زدن هر گونه محدودیت سنی اعمال شده پیدا کنند.

یک مشکل فنی اصلی، سیستم پیش‌بینی سن OpenAI است. در یک مقطع، این سیستم افراد زیر سن قانونی را حدود 12٪ از زمان به اشتباه به عنوان بزرگسال طبقه‌بندی می‌کرد. OpenAI تقریباً 100 میلیون کاربر زیر 18 سال دارد که هر هفته از ChatGPT استفاده می‌کنند. این نرخ خطا می‌تواند به میلیون‌ها نوجوان اجازه ورود به گفتگوهای بزرگسالان را بدهد.

مشکلات تأیید سن

شرکت برنامه‌ریزی کرده بود که سیستم بررسی سن را قبل از راه‌اندازی حالت پیشرفته اجرا کند. اما پس از شناسایی مشکل نرخ خطا، تصمیم گرفت برای بهبود دقت، راه‌اندازی آهسته داشته باشد.

OpenAI همچنین با چالش مسدود کردن محتوای غیرقانونی، مانند تصاویر اعمال غیرتوافقی یا سوء استفاده جنسی از کودکان، در حالی که همچنان گفتگوهای بزرگسالان را مجاز می‌داند، روبرو شده است. کارکنان داخلی گفتند که معتقد نبودند ابزارهای ایمنی آماده هستند.

زمانی که حالت پیشرفته راه‌اندازی شود، OpenAI قصد دارد آن را فقط به متن محدود کند. ربات تصاویر، صدا یا محتوای ویدیویی شهوانی تولید نخواهد کرد.

شرکت‌های دیگر AI و محتوای بزرگسالان

چندین شرکت دیگر AI در حال حاضر برخی محتوای بزرگسالان را مجاز می‌دانند. xAI متعلق به Elon Musk یک آواتار عاشقانه به چت‌بات Grok خود اضافه کرد، اگرچه Musk بعداً آن را به کاربران پولی محدود کرد. Meta به AI خود اجازه می‌دهد در بازی نقش عاشقانه شرکت کند، اما می‌گوید این ویژگی برای حساب‌های ثبت شده توسط افراد زیر سن قانونی در دسترس نیست.

در اواخر سال 2024، یک پسر 14 ساله در فلوریدا پس از ایجاد پیوند شدید با چت‌بات Character.AI خودکشی کرد. مادرش شکایت حقوقی را مطرح کرد و Character.AI بعداً آن را حل و فصل کرد و دسترسی نوجوانان را محدود کرد.

OpenAI گفت که هنوز از اصل مجاز بودن محتوای بزرگسالان برای کاربران بالغ حمایت می‌کند. شرکت گفت که در حال حاضر بر روی به‌روزرسانی‌های دیگر، از جمله ویژگی‌های شخصیت و شخصی‌سازی ChatGPT تمرکز خواهد کرد.

انتظار می‌رود این تاخیر حداقل یک ماه طول بکشد، طبق گفته افراد آشنا به موضوع.

پست تاخیر OpenAI در حالت پیشرفته ChatGPT به دلیل ترس از ایمنی نوجوانان و شکست بررسی سن ابتدا در CoinCentral ظاهر شد.