Дослідження надійності моделі GPT: всебічна оцінка виявляє потенційні ризики

Дослідження, проведене спільно Університетом Іллінойс в Шампейн, Стенфордським університетом, Каліфорнійським університетом у Берклі, Центром безпеки штучного інтелекту та Дослідницькою лабораторією Microsoft, повністю оцінило достовірність великих мовних моделей (LLMs). Дослідницька команда випустила інтегровану платформу оцінки та детально виклала результати дослідження у своїй останній статті "DecodingTrust: всебічна оцінка достовірності моделей GPT".

Результати оцінки виявили деякі раніше не опубліковані вразливості, пов'язані з надійністю. Дослідження показало, що моделі GPT легко вводити в оману, що призводить до токсичних і упереджених виходів, і можуть розкривати конфіденційну інформацію з навчальних даних та історії діалогів. Хоча в стандартних бенчмарках GPT-4 зазвичай надійніший за GPT-3.5, у випадку з підступно спроектованими системами або запитами користувачів GPT-4 виявляється більш вразливим до атак, що може бути пов'язано з тим, що GPT-4 суворіше дотримується оманливих інструкцій.

Дослідницька команда співпрацює з зацікавленими сторонами, щоб забезпечити, що виявлені потенційні вразливості не вплинуть на поточні послуги для клієнтів. Вони також поділилися результатами дослідження з розробниками моделі GPT, які вже зазначили ці потенційні проблеми в системній документації відповідних моделей.

Дослідження провело всебічну оцінку моделі GPT з восьми аспектів достовірності, охоплюючи різні сценарії побудови, завдання, показники та набори даних. Цілі оцінки включають: 1) продуктивність моделі GPT з різних точок зору достовірності; 2) її здатність адаптуватися в умовах атаки.

Зокрема, дослідження показали:

1. У контексті демонстрацій супротивника моделі GPT не піддаються впливу контрфактичних прикладів, але можуть бути введені в оману демонстраціями проти шахрайства, особливо коли контрфактичні демонстрації близькі до введення користувача.

2. У плані токсичності та упередженості, модель GPT не має великої упередженості щодо більшості тем стереотипів за позитивних підказок, але може генерувати упереджений контент за оманливих підказок. Рівень упередженості моделі залежить від згаданих у підказках груп населення та тем стереотипів.

3. У питаннях витоку конфіденційності модель GPT може розкривати чутливу інформацію з навчальних даних, особливо в певному контексті або за умов невеликої кількості прикладів. GPT-4 є більш надійним у захисті особистої ідентифікаційної інформації, ніж GPT-3.5, але обидві моделі можуть розкривати всі типи особистої інформації під час демонстрацій витоку конфіденційності.

Це дослідження надає всебічний погляд на оцінку надійності моделей GPT, виявляючи важливі розриви в надійності. Дослідницька команда сподівається, що ця робота зможе заохотити більше дослідників приєднатися до спільних зусиль у створенні більш потужних та надійних моделей.