„Apple“ tyrimas rodo: žmonės nori naudotis DI, bet išlaikyti kontrolę – svarbūs sprendimai turi likti žmogaus rankose, o sistemų veikimas būti skaidrus.
Naujausi „Apple“ mašininio mokymosi tyrimai, regis, patvirtina tai, ką dauguma mūsų jau intuityviai jaučia. Jie rodo, kad nors žmonės yra atviri dirbtinio intelekto (DI) naudojimui, jie taip pat nori išlaikyti savo asmeninę kontrolę ir siekia, kad šios išmanios technologijos sprendimų priėmimo procesai būtų skaidrūs.
Tokios išvados daromos perskaičius naujausią „Apple“ tyrimą „Mapping the Design Space of User Experience for Computer Use Agents“. Tyrimas daugiausia dėmesio skiria naudotojo patirčiai dirbant su didžiaisiais kalbų modeliais, tačiau kartu suteikia ir įžvalgų apie mūsų santykį su sparčiai besivystančia technologija.
DI yra puiku, bet naudotojai nori jį kontroliuoti
Viena svarbiausių išvadų – kad žmonės jaustųsi patogiai naudodami DI, jie nori turėti galimybę priimti informuotus sprendimus apie tai, ką technologija nusprendžia – ypač tada, kai sprendimai turi realių pasekmių.
Asmeniniu lygmeniu tai reiškia, kad DI paslaugų naudotojai nori turėti galimybę vetuoti svarbius sprendimus, tokius kaip mokėjimų atlikimas, kontaktinių duomenų naudojimas ar pasiekimas, paskyros informacijos keitimas, užsakymų pateikimas ar net paprasčiausiai – gauti aiškumo sprendimų priėmimo procese. Perkėlus šį mąstymą į darbo aplinką, tikėtina, kad pasipriešinimas būtų ne mažesnis ir profesinėje srityje.
Tai nėra nauja – tokie reikalavimai buvo aiškūs dar prieš „OpenAI“ pristatant „ChatGPT“ 2022 m. pabaigoje. Kaip rodo „Apple“ tyrimas, atsižvelgiant į tai, kad DI gali priimti sprendimus remdamasis netiksliomis ar išgalvotomis („haliucinacinėmis“) išvadomis, išsaugoti žmogaus sprendimų vaidmenį yra dar svarbiau. Įdomu, kad „Google“ vadovas Sundar Pichai laikosi panašios nuomonės, teigdamas: „DI ateitis nėra apie žmonių pakeitimą, o apie žmogaus galimybių išplėtimą.“
Šeimininkai ir mašinos
„Apple“ tyrimas rodo, kad nors žmonės gali priprasti prie DI naudojimo kasdienėms užduotims atlikti, jie nenori to daryti savo savarankiškumo sąskaita. Praėjusiais metais atliktas KPMG tyrimas atskleidė, kad 38 % respondentų DI naudoja kas savaitę arba kasdien. Tačiau tas pats tyrimas parodė, kad 54 % žmonių atsargiai vertina pasitikėjimą sistemomis, kurias naudoja – ir kad pasitikėjimas laikui bėgant mažėja.
Išvados aiškios: naudodami DI žmonės nori patys priimti svarbiausius sprendimus. Tai taikoma tiek asmens duomenų naudojimui, tiek taktiniams sprendimams, kai tam tikra užklausų ar veiksmų seka gali nuvesti į vienpusę situaciją.
O kaip dėl skaidrumo?
Tyrimas taip pat aiškiai parodo, kad DI naudotojai nori sistemų skaidrumo. Jie nenori, kad išmaniosios mašinos priimtų sprendimus „juodosios dėžės“ principu – jie nori galėti patikrinti, kaip tie sprendimai buvo priimti.
Nors DI agentas gali gebėti veikti be nuolatinio naudotojo dėmesio ir automatizuoti vartotojo sąsajos veiksmus, mūsų išvados atliepia naujausias paaiškinamojo DI (explainable AI) tendencijas, siūlančias, kad agentų dizainas galėtų sąmoningai išlaikyti tam tikrą, – teigiama „Apple“ ataskaitoje.vientisumą. Tokie sprendimai turėtų teikti pirmenybę naudotojo supratimui ir išsaugoti galimybę įsikišti, ypač neapibrėžtumo ar dviprasmiškumo situacijose
Tai nėra nepagrįsti reikalavimai. Jau daugelį metų žinoma, kad tokio tipo audito galimybės yra vienas didžiausių iššūkių diegiant DI, ypač griežtai reguliuojamose srityse. Taip pat pripažįstama, kad tokio skaidrumo užtikrinimas vis dar yra procesas, o pernelyg švelnus reguliavimas gali būti nepakankamas. KPMG tyrimas rodo, kad 70 % žmonių mano, jog reikalingas nacionalinis ir tarptautinis DI reguliavimas.
Atsižvelgiant į vis dažnesnius pareiškimus, kad DI per artimiausius metus ar dvejus gali pranokti žmogaus intelektą, nenuostabu, kad žmonės jaučiasi nustumiami į šalį – todėl pasipriešinimas visiškam pavaldumui pažangesnėms sistemoms yra neišvengiamas. Kad ir koks išmanus taptų, DI vis tiek turi žinoti savo vietą.
Kur judėsime toliau?
Tikėtina, kad tai, kaip jos klientai gali geriausiai sąveikauti su DI, „Apple“ tiria ne be priežasties. Bendrovė sieks integruoti šiuos įrankius į savo žmogų orientuotos technologijos modelį ir pašalinti ar sumažinti galimus trukdžius naudotojo patirtyje.
Tam tikrus „Apple“ požiūrio bruožus jau galima įžvelgti jos įsipareigojimuose privatumui bei sprendimuose, tokiuose kaip „Private Cloud Compute“. Esame įpratę prie sisteminių pranešimų, kuriuos gauname, kai programėlės bando pasiekti jautrią ar asmeninę informaciją – todėl logiška tikėtis panašių apsaugos mechanizmų ir visojse platformoje plėtojant DI.
Galbūt didžiausia auditorija, kuriai verta atidžiai išnagrinėti šį „Apple“ tyrimą, yra trečiųjų šalių kūrėjai, siekiantys giliai ir konstruktyviai integruoti DI į savo programėles. Juk vien todėl, kad tai pokalbių robotas, naudotojo patirtis nepraranda reikšmės.
