Kila wakati Chatbot hufanya kitu kibaya, silika ya kwanza ya watumiaji wengi ni kuuliza ni nini kilitokea kwa nini ni nani aliyefanya makosa. Lakini na mifano ya lugha, tofauti na watu halisi, hii haitasaidia. Hawawezi kuchambua makosa yao wenyewe. Maelezo ya Port Arstechnica.com OngeaKwanini.
Shida ya kwanza ni wazo. Unapozungumza na chatbot, hauwasiliani na watu wengine au asili ya kudumu. Ndio, Chatgpt, Claude, Grok au repring kitaalam jina lake, lakini hawastahili kufahamika – hii ni udanganyifu tu ulioundwa na interface ya mazungumzo. Kwa kweli, unadhibiti takwimu za maandishi, ukitoa matokeo kulingana na mahitaji ya mtumiaji.
Kwa maneno mengine, hakuna Chatgpt au Grok. Mtu huingiliana na mfumo ambao huunda maandishi kamili ya sauti kulingana na sampuli zinazopatikana kwenye hifadhidata (kawaida hupitwa na wakati). Mfumo huu hauna uelewaji wake mwenyewe au maarifa ya mfumo, na pia uwezo wake wa kukumbuka yenyewe.
Baada ya kusoma mfano wa lugha, inachukua muda mwingi na rasilimali, ufahamu wake wa msingi juu ya ulimwengu umetiwa muhuri katika mtandao wa ujasiri na haubadilishi sana. Habari yoyote ya nje inatoka kwa mahitaji ya bot, zana za watumiaji au programu ya kutumia kupata data kwa wakati halisi.
Kwa mfano, ikiwa unachukua Grok, chanzo kikuu cha habari kwa jibu kinaweza kuwa kinyume na kila mmoja kutoka kwa machapisho ya hivi karibuni kwenye mitandao ya kijamii. Sio maarifa, kama ilivyo kwa kila mtu. Na ikiwa habari hii haitoshi, mfano utatoa kitu kwa sababu ya uwezo wa kutabiri maandishi.
Nambari ya pili – ambao hawawezi kuelewa uwezo wao wenyewe kwa sababu kadhaa. Kama sheria, hawana data juu ya jinsi wanavyofanya utafiti, usanifu wa mfumo unaozunguka haupatikani kwao, hawawezi kuamua mipaka ya utendaji wao. Ukiuliza chatbot nini anaweza kufanya na sio nini, basi atatoa maoni kwa msingi wa kile wanachosema juu ya mapungufu ya mifano ya lugha ya zamani. Kwa kweli, atajibu tu na dhana, na sio habari ya vitendo juu yake mwenyewe.
Utafiti mnamo 2024 ulithibitisha ukweli huu kwa msaada wa jaribio. Ingawa mifano ya II inaweza kufunzwa ili waweze kutabiri tabia zao wenyewe katika kazi rahisi, wanashindwa kila wakati katika kazi ngumu zaidi. Kwa njia hiyo hiyo, utafiti juu ya utangulizi unaorudiwa wa Viking unaonyesha kuwa hakuna majibu kutoka kwa nje, ambaye anajaribu kurekebisha makosa yao na kusababisha kupunguzwa kwa tija ya mfano. Hiyo ni, ubinafsi wa AI una mbaya zaidi, sio bora.
Wakati mwingine hii husababisha hali ya paradiso. Mfano huo unaweza kusema kwa ujasiri kwamba haiwezi kumaliza kazi lakini kwa kweli, begani mwake na kinyume chake, kuwahakikishia watumiaji kuwa anaweza kufanya kile kisichowezekana. Hatupaswi kusahau kuwa, kumuuliza mtu yeyote juu ya wapi amekosea, watumiaji watapokea sehemu nyingine ya maandishi yaliyoundwa na sio uchambuzi wa kweli wa kosa.
Kando ya mifano ya lugha ni kwamba hawana msingi thabiti na wa bei nafuu ambao unaweza kuwasiliana nao kila wakati. Ujuzi wao unajielezea tu kukidhi mahitaji maalum; Ombi la kila mtumiaji lina jukumu la aina ya anwani ambayo inahusu sehemu tofauti za hifadhidata amepata mafunzo. Hii ndio hasa husababisha majibu yanayopingana.
Lakini hata ikiwa II ina maarifa bora juu ya mifumo yake mwenyewe, tabaka zingine za gumzo la matumizi ya bot haziwezi kupenya. Kwa hivyo, aisstros ya kisasa, kama vile TATGPT, sio mfano mmoja, lakini mifumo kubwa ikiwa ni pamoja na mifano tofauti inayofanya kazi pamoja. Kila mmoja wao, wengi, hajui juu ya uwepo wa wengine. Kwa hivyo, kumuuliza mtu yeyote kuhusu makosa kama kuuliza sehemu ya kampuni kubwa juu ya kile kinachotokea katika sehemu nyingine ambayo hawajawahi kuwasiliana nao.
Mwishowe, hatua muhimu zaidi ni kwamba mtumiaji karibu kila wakati huathiri jibu la mtu yeyote – haijalishi ikiwa wanajua au la. Ukiuliza Chatbot kwa mshtuko, ikiwa ameharibu rekodi au kanuni za programu, basi atajibu kuwa ndio, kwa sababu chaguo hili linafaa kwa muktadha wa kihemko wa ombi.