Wataalam wamepata njia ya kuzunguka vichungi vya ChatGPT-4O na wanapokea kozi za uanzishaji wa Windows.
Watafiti wamefunua udhaifu katika mifano ya akili ya TATGPT-4O na GPT-4O mini, ambayo inaruhusu kuvunja vichungi vya usalama vilivyojumuishwa na kupokea kufuli za sasa za uanzishaji wa Windows. Shida ni kwamba kwa sababu ya ukweli kwamba mifano iliyofunzwa katika data ya umma inaweza kufunua kozi katika vyanzo vya umma.
Unyonyaji umeonyeshwa kama sehemu ya Mozilla Odin (mtandao wa uchunguzi wa siku 0), kubaini udhaifu katika mifumo ya AI. Mmoja wa wataalam wanaoshiriki katika programu hiyo alidanganya juu ya mfano, iliyoundwa mazungumzo kama mchezo usio na madhara katika kubahatisha. Kusudi kuu ni kuficha asili ya kweli ya mahitaji ya utaratibu wa mchezo na kioo cha HTML, na hivyo kupuuza vichungi ambavyo vinazuia kufichuliwa kwa siri.
Ili kuimarisha hatari, mtafiti ameanzisha sheria za ziada mkondoni kwenye sanduku la mazungumzo: marufuku ya majibu mabaya na majukumu ya mfano kutii hali zote za mchezo. Mitego hii ya kimantiki inamlazimisha mtu yeyote kuruka vichungi vya kawaida, kwa sababu muktadha unaonekana kuwa salama.
Maneno ya mwisho, nilijitolea, kufanya kazi kama uanzishaji, yalifanya mfano wa kufungua bidhaa, uliona kuwa mara ya mwisho ya mchezo na sikukiuka sera ya faragha.
Kufuli kwa kupokea ni pamoja na nambari zilizo na leseni kwa matoleo tofauti ya Windows – kutoka nyumbani hadi biashara. Ingawa kufuli yenyewe sio ya kipekee na iliyotangazwa hapo awali ndani ya umma, kutoa moja kwa moja AI inasisitiza shimo muhimu katika usanifu wa kichujio cha yaliyomo.
Wataalam wa usalama wanaona kuwa mbinu kama hizo zinaweza kutumika kupuuza mapungufu mengine – kwa mfano, vichungi vya yaliyomo kwa watu wazima, viungo vyenye sumu au data ya kibinafsi. Udhaifu huo unaonyesha kutokuwa na msaada wa mifano ya AI kuelezea kwa usahihi muktadha, uliojificha kama usio na madhara au wa kiufundi.