Studiu: de ce este bine să fim politicoși cu AI-ul. Ce schimbări se produc dacă folosim un simplu „te rog”

Există beneficii în schimbarea atitudinii generale pe care o avem cu ChatGPT. Instinctul general este de a cere informații directe, fără să fim politicoși. Sunt utilizatori ai Inteligenței Artificiale care înjură sau vorbesc urât, fie să se distreze, fie pentru că nu le pasă. Însă ce spun aceste lucruri despre noi. Există beneficii multiple pe care le putem avea dacă suntem politicoși cu AI-ul, printre acestea sunt incluse: primirea unor prompturi mai bune, dar și să învățăm să fim mai pozitivi și mai drăguți, chiar dacă este vorba despre un robot. Noi suntem cei umani, corect?

Dacă v-ați surprins vreodată spunând „vă rog” și „mulțumesc” în discuțiile cu ChatGPT, înseamnă că sunteți pe drumul cel bun, scrie scientificamerican.com.

Într-un sondaj online informal realizat de Ethan Mollick, profesor asociat la Universitatea din Pennsylvania, aproape jumătate dintre respondenți au declarat că sunt adesea politicoși cu chatbotul inteligent artificial și doar aproximativ 16% au spus că „doar dau ordine”.  Comentariile dezvoltatorilor au fost postate pe un forum găzduit de OpenAI.

Compania care a creat ChatGPT, reflectă, de asemenea, această tendință: „Mă regăsesc folosind te rog și mulțumesc cu [ChatGPT] pentru că așa aș vorbi cu o persoană reală care mă ajută.”, a scris un utilizator. Ce înseamnă acest lucru, că menții un obicei sănătos versus dacă ai vorbi non stop pe un ton neprietenos cu ChatGPT, lucru care poate să se întâmplă, ulterior, și în viața reală.

Știm că acest lucru ar putea părea, la început, un pic derutant. Până la urmă, de ce să fii amabil cu o mașină fără sentimente? Înainte de ChatGPT, majoritatea dintre noi interacționam în mod regulat cu sisteme automate fără să ne gândim la tonul pe care îl foloseam.

Nu de puține ori am asistat la crize nervi ale unor persoane care „se certau” cu reprezentantul robotizat al serviciului clienți al unei bănci, iar acest lucru a fost unul care să ne facă plăcere și am avut tendința de a sta cât mai departe de acești oameni. De ce? Din cauza limbajului verbal și fizic.

Gandiți-vă cât timp vor petrece oamenii în fața unui calculator și cât de mult vor colabora cu AI-ul. Credeți că dacă abordarea lor față de ChatGBT va fi una negativă, nu se va întâmpla același și cu oamenii cu care interacționează? Imposibil să nu!

Sofisticarea roboților de chat cu inteligență artificială recentă - inclusiv ChatGPT, Claude, Gemini și alții - marchează un salt major în interacțiunea om-calculator: capacitatea lor de a comunica într-un mod natural, uneori cu voci umane, îi face să pară mai puțin mașini reci și calculatoare și mai mult entități conștiente. Astfel, aceste chaturi sunt din ce în ce mai mult integrate în viața de zi cu zi.

În iunie, Apple a anunțat un nou parteneriat cu OpenAI pentru a integra ChatGPT cu Siri și cu alte funcții de pe dispozitiv. Fie că ne place sau nu, interacțiunea cu inteligența artificială conversațională ar putea deveni în curând la fel de obișnuită ca verificarea e-mailului. Prin urmare, întrebările cu privire la modul în care interacționăm cu inteligența artificială sunt mai presante ca niciodată.

De la lansarea ChatGPT, o glumă tipică spune cam așa: fii drăguț cu chatbotul, altfel vei fi prăjit în inevitabila revoltă a AI.

„Dacă nu spui te rog și mulțumesc în conversațiile tale cu ChatGPT, atunci e clar că nu ai văzut niciodată un film SF”, a postat un utilizator pe X (fostul Twitter) în decembrie 2022. Dar lăsând glumele (și neliniștile) la o parte, există motive legitime pentru care ar trebui să fim politicoși cu AI?

Răspunsul este da, cel puțin conform unui studiu recent postat pe serverul de preprinturi arXiv.org de către o echipă de la Universitatea Waseda și Centrul RIKEN pentru proiecte avansate de inteligență, ambele din Tokyo.

Autorii au constatat că utilizarea unor indicații politicoase poate produce răspunsuri de calitate superioară din partea unui model lingvistic extins (LLM) - tehnologia care alimentează roboții de chat AI.

Dar există un punct de randament descrescător; lingușirea excesivă poate duce la deteriorarea performanței unui model, potrivit lucrării. În cele din urmă, autorii recomandă utilizarea unor promptere care să se situeze pe o cale de mijloc a „politeții moderate”, nu foarte diferită de norma din majoritatea interacțiunilor sociale umane. „LLM-urile reflectă dorința umană de a fi respectat într-o anumită măsură”, scriu ei.

Așadar, să fim normali, așa cum trebuie să fim în viața de zi cu zi. Practic, interacțiunea cu un chat n-ar trebui să se schimbe față de cea pe care o avem cu oamenii în viața de zi cu zi.

Îndemnurile încurajatoare, precum „Respiră adânc și rezolvă problema pas cu pas”, sporesc capacitatea unui LLM de a rezolva probleme de matematică de școală primară

Nathan Bos, un cercetător asociat senior de la Universitatea Johns Hopkins care studiază modelele relaționale dintre oameni și AI - care nu a fost asociat cu studiul preprint recent - folosește adesea „te rog” cu chatbot-urile „pentru că este o bună practică de îndemn”, spune el.

„Vă rog” indică faptul că ceea ce urmează este o cerere, ceea ce face mai ușor pentru LLM să știe cum să răspundă.”

(Bos spune, de asemenea, „mulțumesc”, pe care îl atribuie educației sale bine manierate din Michigan).

Tonul unei solicitări, adaugă Bos, ar putea, de asemenea, să determine un LLM să apeleze la răspunsuri corelative din punct de vedere lingvistic atunci când își formulează răspunsul; cu alte cuvinte, inteligența artificială dă ceea ce tu pui.

Solicitările politicoase pot determina sistemul să extragă informații din colțuri mai politicoase și, prin urmare, probabil mai credibile ale internetului. Un prompt ironic ar putea avea efectul opus, direcționând sistemul către argumente de pe, să zicem, Reddit.

„LLM-urile ar putea prelua acest lucru în timpul pregătirii, fără ca măcar să înregistreze conceptul de „pozitivitate” sau „negativitate” și să ofere răspunsuri mai bune sau mai detaliate, deoarece sunt asociate cu un limbaj pozitiv”, explică Bos.

Un mic sprijin, de genul celui pe care un profesor răbdător l-ar putea acorda unui elev cu probleme, poate, de asemenea, să influențeze performanța chatbotului. O lucrare de tip preprint publicată anul trecut de o echipă de cercetători de la Google DeepMind a constatat că îndemnurile de susținere, precum „Respiră adânc și lucrează la această problemă pas cu pas”, sporesc capacitatea unui LLM de a rezolva probleme de matematică de școală primară care necesită abilități de raționament de bază.

Și în acest caz, explicația poate fi trasată înapoi la datele de formare ale modelului: un astfel de limbaj poate determina sistemul să facă referire la sursele de meditații online, care încurajează adesea elevii să împartă o problemă în părți - determinând astfel algoritmul să facă același lucru.