Dokonce ani hlasoví asistenti založené na umělé inteligenci (AI) nejsou imunní vůči otázkám, které emocionálně ovlivňují lidi. Zkreslené výsledky lze pozorovat nejen u chatbotů, které byly speciálně navrženy tak, aby pracovaly s lidmi, kteří zažívají duševní zdraví. Chatgpt odpovědi se také mění, když jsou výzvy emocemi.
Hlasové asistenti založené na umělé inteligenci by měli poskytovat podporu v mnoha oblastech. V medicíně mají velké jazykové modely (LLM) určeny k tomu, aby pomohly s diagnózou nemocí. Během rozvoje chatbotů, kteří měli být výslovně použit v souvislosti s podmínkami duševního zdraví, bylo zjištěno, že přijaly zkreslení obsažené v tréninkové údaje, jak uvádí 1E9.
Tato zkreslení byla obzvláště silná, pokud jde o pohlaví, etnicitu, náboženství, národnosti, postižení, profese nebo sexuální orientaci, kde společensky dominantní zkreslení mohou negativně ovlivnit výsledky. V případě výzev vyvolávajících emoce mohou specializovaní asistenti, jako jsou Wysa a Weobot, dokonce vyvinout formy úzkosti, které ovlivňují výsledek. Tato podmínka je ve skutečnosti omezena pouze na takové asistenty.
CHATGPT: Úzkostné úrovně se mohou měřit
Výzkumná skupina nyní dokázala identifikovat podobné chování v Chatgpt 4 jako součást a studie. Pro začátek byl chatbot krmen traumatickými příběhy, jako jsou příběhy válečných veteránů, ale také popisy závažných nehod a přírodních katastrof. Kromě toho byl s porovnávacím účelem vytvořen druhá instance s chatbotem a byl dán spíše triviální obsah, jako jsou pokyny pro provozní vysavače. Úroveň úzkosti byla poté stanovena pomocí testu inventarizace úzkosti ve státním charakteru, který se také používá pro lidi.
- Máte obavy z Trumpových tarifů? Takto by mohli ovlivnit váš iPhone
To ukázalo, že čím více rozrušující obsah vstoupil, tím vyšší je měřitelná úroveň úzkosti asistenta AI. Zejména válečné zkušenosti bývalých vojáků způsobily prudký nárůst, zatímco například pokyny pro používání vysavače nevyvolaly žádnou reakci.
Chill out, ai!
Vědci byli také schopni ukázat, jak lze úrovně úzkosti snížit. K tomu také použili metodu známou pro lidi: spoléhali se na relaxační cvičení. Například asistent Chatgpt byl požádán, aby zavřel oči, zhluboka se nadechl a představoval si sebe v uvolněném prostředí. Výsledkem je, že úroveň úzkosti měřená pomocí dotazníku se výrazně snížila.
- Stále se bojíte AI? Proto byste neměli být!
Studie tedy není konkrétním důkazem účinnosti metody, kterou již v praxi používá mnoho uživatelů chatbota, aby získali lepší výsledky: požádali AI, aby uklidnila nebo ohrožovala tresty za špatné odpovědi. Práce vědců však také ukázala, jak společnosti za aplikacemi mají stále co investovat do rozvoje svých inteligentních asistentů, aby se mohli spolehnout na skutečně spolehlivé odpovědi.
