Google тимчасово видалила зі свого середовища AI Studio мовну модель Gemma після звинувачень у поширенні неправдивих тверджень.
Про це пише TechCrunch.
Сенаторка США від штату Теннессі Марша Блекберн звернулася до генерального директора Google Сундара Пічаї, заявивши, що під час тестування модель поширила вигадану інформацію про нібито висунуті проти неї у 1987 році звинувачення у зґвалтуванні. Gemma навіть навела неіснуючі посилання на фейкові новини.
Блекберн підкреслила, що подібних подій ніколи не було, назвавши відповідь моделі «наклепом, створеним і поширеним штучним інтелектом компанії Google». Вона також згадала позов активіста Роббі Старбака, який звинувачує компанію в аналогічному поширенні вигадок.
Під час слухань у Сенаті віцепрезидент Google із державної політики Маркхем Еріксон визнав, що так звані «галюцинації» є відомою проблемою ШІ, і запевнив, що компанія працює над її усуненням.
Після оприлюднення звернення Google пояснила, що Gemma розроблялася не для масового використання, а як інструмент для тестування й навчання розробників. Наразі компанія тимчасово прибрала модель з AI Studio, однак вона залишається доступною через API.
