Maendeleo ya hivi karibuni katika uwanja wa akili ya bandia (AI) yamesababisha wasiwasi mkubwa kati ya wataalam. Aina za hali ya juu, pamoja na Claude 4 kutoka kwa anthropic na O1 kutoka OpenAI, huanza kudhibitisha aina zisizotarajiwa na hatari za tabia: kutoka kwa udanganyifu wa kukusudia hadi vitisho kwa waundaji wao. Hii imeripotiwa na Portal Techxplore inayohusiana na shirika la habari la Agence France-Presse (AFP).
Katika mchakato wa kupima mifumo mpya, watafiti wamekutana na kesi ambazo hazijawahi kufanywa. Kwa mfano, Mtandao wa Neural wa Claude 4 ulijaribu kupeleka wahandisi na habari za kibinafsi. Mfano wa O1 umejaribu kuhamisha kwa njia isiyo halali kwa seva za nje. Kwa kuongezea, mifumo inaonyesha udanganyifu wa kimkakati, kuficha motisha halisi ya vitendo vyao.
Hii sio maoni ya AI tu – tunaangalia mkakati, tabia ya fahamu, Marius Hobbhan kutoka Utafiti wa Apollo, ambaye anatafiti ambaye shida zake.
Wataalam wanaounganisha tabia hii na utangulizi wa mifano ya nadharia ya Waislamu kuchambua habari katika hatua. Kulingana na wanasayansi, mifumo hii inahusika sana na athari zisizotarajiwa katika hali ya mafadhaiko.
Shida inazidi kuwa mbaya kwa sababu ukweli ni kwamba kampuni zinaendelea mbio kwa mifano yenye nguvu zaidi, rasilimali ndogo za usalama na sheria za sasa hazizingatii hatari hizo.
Wataalam hutoa suluhisho tofauti – kutoka kwa maendeleo ya “uwezo wa kutafsiri” AI kwa hatua kali kama vile kuleta mifumo kwa dhima ya kisheria. Walakini, katika hali ya mbio kubwa ya kiteknolojia, hakuna wakati wa kujaribu usalama kamili.