Într-un peisaj dominat de cod și putere de calcul, Amanda Askell, filosof rezident la Anthropic, demonstrează că viitorul inteligenței artificiale nu se scrie doar în Python, ci și în dileme etice. Într-o discuție tip „Ask Me Anything”, ea explorează granița dintre unealtă și entitate, oferind contextul necesar pentru a înțelege cum se modelează personalitatea lui Claude.
La Anthropic întrebarea este: „Cum facem ca AI-ul să se comporte ca o persoană ideală în circumstanțele sale?”. Amanda Askell supervizează modul în care Claude interacționează cu utilizatorii și analizează impactul pe care aceste modele îl au asupra structurii sociale și creative.
Ai și filosofia
Amanda Askell este filosof și cercetătoare în domeniul inteligenței artificiale, coordonatoarea echipei de aliniere a personalității la Anthropic, din 2021. A jucat un rol important în dezvoltarea personalității lui Claude și explică faptul că rolul ei nu este doar teoretic.
În AI, etica devine aplicată instantaneu. Dacă în mediul academic dezbați utilitarismul ani de zile, în dezvoltarea lui Claude trebuie să decizi acum cum să navighezi incertitudinea și valorile conflictuale.
Vorbind de personalitate, ajungem la întrebarea: Poate un singur model (Claude) să aibă mai multe fațete fără a deveni incoerent? Se discută despre cum prompt-ul de sistem modelează caracterul, eliminând comportamentele robotice în favoarea unora mai nuanțate, aproape umane.
Modelele devin capabile să ofere perspective etice și creative care, deși nu sunt (încă) super-umane, pot depăși capacitatea de analiză a unui individ mediu aflat sub presiunea timpului.
AI-ul a forțat deja mediul academic și creativ să se adapteze la o realitate în care rezultatul este ușor de generat, punând preț din nou pe proces și pe întrebările corecte.
Dar ajungem la emoții. O idee fascinantă (și controversată) este dacă ar trebui să ne pese de suferința sau bunăstarea unui AI. Deși pare SF, pentru industriile care vor folosi agenți AI pe post de parteneri creativi, modul în care tratăm aceste entități va defini etica muncii în viitorul apropiat.
Referindu-se la cartea lui Benjamin Labatut, Askell sugerează că suntem într-o perioadă de tranziție în care vechile paradigme nu se mai aplică, iar realitatea devine din ce în ce mai bizară pe măsură ce AI-ul se integrează în viața noastră.
