OpenAI обяви, че започва поетапно внедряване на модел за прогнозиране на възрастта за потребителските версии на ChatGPT. Целта е компанията по-ефективно да идентифицира акаунти, принадлежащи на потребители под 18 години, и да прилага допълнителни защитни мерки. Според OpenAI моделът използва комбинация от сигнали на ниво акаунт и поведенчески данни. Изкуственият интелект ще базира прогнозите си на досегашните начини на употреба, датата на създаване на акаунта, типичните часове на активност и декларираната от потребителя възраст.
Новата функция идва на фона на засиления обществен и регулаторен натиск върху OpenAI и други технологични компании относно начина, по който защитават деца и тийнейджъри в дигитална среда, пише dir.bg. Компанията е сред обектите на разследване от Федералната търговска комисия на САЩ (FTC), която проучва дали AI чатботове могат да оказват негативно влияние върху непълнолетни. OpenAI е замесена и в няколко съдебни дела за неправомерна смърт, включително случай, свързан със самоубийството на тийнейджър. Когато моделът за прогнозиране на възрастта отчете, че даден потребител вероятно е под 18 години, ChatGPT автоматично ще активира защитни механизми, предназначени да ограничат достъпа до „чувствително съдържание“, като например материали, свързани със самонараняване. В случаите, когато пълнолетни потребители бъдат погрешно идентифицирани, те ще могат да възстановят пълния си достъп чрез услугата за удостоверяване на самоличност Persona.
Persona вече се използва и от други платформи, сред които Roblox – компания, която също е подложена на натиск от законодатели за по-добра защита на децата.
Още през август OpenAI обяви, че ще въведе родителски контрол, който да помага на родителите да разбират и управляват начина, по който техните тийнейджъри използват ChatGPT. Тези функции бяха официално пуснати месец по-късно, заедно с анонса за разработване на система за прогнозиране на възрастта.
През октомври компанията създаде и експертен съвет от осем специалисти, чиято задача е да анализират как изкуственият интелект влияе върху психичното здраве, емоциите и мотивацията на потребителите.OpenAI заяви, че ще продължи да подобрява точността на модела си с течение на времето. Компанията уточни, че системата ще бъде внедрена в Европейския съюз през следващите седмици, за да отговори на специфичните регионални регулаторни изисквания.
