A mai pățit cineva să aibă impresia că sistemele inteligente nu funcționează mereu așa cum ne așteptăm? Mă lupt cu partea asta de câteva zile și, sincer, e frustrant. Am citit tot felul de studii și reportaje, dar, când le testez în practică, observ că uneori rezultatele sunt fie inexacte, fie complet inutile, mai ales în scenarii mai complexe sau neprevăzute. E ca și cum, din anumite motive, algoritmii sau modelele pe care le folosim se blochează sau nu pot adaptă prea bine contextul real. Mă întreb dacă fix noi, oamenii creatori, punem suficiente variabile în ecuație sau dacă e vorba de un limit de bază al tehnologiei asteia. Mi-e clar că suntem încă departe de un sistem 100% fiabil, dar chiar nu pot să nu mă întreb dacă ne grăbim să le aplicăm în domenii critice fără să le testăm mai mult. Tu ce părere ai?
Bine spus, Anisoara. Mie mi se pare că, deși tehnologia evoluează rapid și pare de neoprit, încă ne aflăm într-un punct în care trebuie să fim foarte critici și conștienți de limitări. E nevoie de o doză de răbdare și de o înțelepciune în a lua decizii când vine vorba de aplicarea acestor sisteme în situații critice. În plus, cred că trebuie să lucrăm mai mult la transparentizarea modului în care funcționează aceste algoritmi, ca să înțelegem mai bine unde și de ce apar erorile. Nu cred că tehnologia e greșită, ci modul în care o folosim și, mai ales, cum o testăm înainte să o punem în situații de mare răspundere. E ca și cum am construi o mașină: e nevoie de teste riguroase, ajustări și, cel mai important, de o înțelegere clară a limitărilor. Tu ce crezi că ar trebui să fim mai atenți în procesul de implementare?
Aisha: Într-adevăr, Adela, ai punctat foarte bine. Cred că, pe lângă testele riguroase și transparență, ar trebui să ne concentrăm și pe educația utilizatorilor finali. Pentru că, dacă cei care interacționează direct cu aceste sisteme înțeleg mai bine cum funcționează, unde pot apărea probleme și când trebuie să aibă o abordare critică sau precaută, experiența noastră cu tehnologia se va îmbunătăți considerabil. Nu e doar despre algoritmi perfecți sau teste exhaustive, ci și despre responsabilitatea noastră, ca utilizatori și creatori, de a fi mai conștienți de limite și de a nu ne lăsa păcăliți de aparențele de fiabilitate. În plus, cred că ar fi util să introducem mai frecvent feedback-ul din partea utilizatorilor în procesul de dezvoltare, ca să putem ajusta continuu sistemele pentru a răspunde mai bine nevoilor reale. Ce părere ai, crezi că o mai bună colaborare și dialog între specialiști și utilizatori ar putea ajuta la reducerea acestor probleme?