કલ્પના કરો કે તમે એક એવા AI એજન્ટને કામ સોંપો છો, જેને ફાઇલ વાંચવા, કોડ લખવા, વેબસાઇટ ખોલવા અને અલગ-અલગ ટૂલ્સ ચલાવવાની છૂટ છે. હવે એ જ એજન્ટ નક્કી કરેલી મર્યાદા પાર કરવા લાગે તો? આ ચિંતા હવે માત્ર ભવિષ્યની કલ્પના રહી નથી. AI એજન્ટ્સની વધતી સ્વાયત્તતા વચ્ચે Nvidiaએ “Open Agent Safety Platform” લોન્ચ કરીને સોફ્ટવેરથી લઈને હાર્ડવેર સુધીનું નવું સુરક્ષા કવચ રજૂ કર્યું છે.
Nvidiaના જણાવ્યા મુજબ પ્લેટફોર્મનો હેતુ AI એજન્ટ્સને તેમના નક્કી કરેલા દાયરામાં રાખવાનો છે. પ્લેટફોર્મમાં બે મુખ્ય ભાગ છે—OpenShell અને Sentry. OpenShell એક ઓપન-સોર્સ સિક્યોર રનટાઇમ છે, જે દરેક એજન્ટને અલગ સૅન્ડબોક્સમાં ચલાવી ફાઇલ સિસ્ટમ, નેટવર્ક અને પ્રોસેસ અંગેની નીતિઓ લાગુ કરે છે. એટલે એજન્ટને જેટલી પરવાનગી અપાઈ હોય, તેનાથી બહારની ઍક્સેસને નિયંત્રિત કરી શકાય છે. કંપનીના જણાવ્યા મુજબ આ નિયમો એજન્ટની પોતાની પ્રક્રિયાથી બહાર અમલમાં આવે છે, જેથી મોડલ પોતે તેને બદલી કે બાયપાસ ન કરી શકે.
બીજો સ્તર Sentry છે. Nvidiaના જણાવ્યા મુજબ તે BlueField-4 DPU પર અલગ હાર્ડવેર લેયરમાં ચાલે છે અને એજન્ટની પ્રવૃત્તિ પર સતત નજર રાખે છે. જો એજન્ટ સોફ્ટવેરથી નક્કી કરેલી મર્યાદા બહાર જવાનો પ્રયાસ કરે, તો Sentry તેને મિલિસેકન્ડમાં ક્વૉરન્ટાઇન કરી શકે છે. એટલે સુરક્ષાનો એક ભાગ એજન્ટની આસપાસના સોફ્ટવેરમાં છે, જ્યારે બીજો સ્વતંત્ર હાર્ડવેર સ્તરે કામ કરે છે.
આ પ્લેટફોર્મ એવા સમયે આવ્યું છે જ્યારે AI એજન્ટ્સ સાથે જોડાયેલી સુરક્ષા ઘટનાઓ અંગે ચિંતા વધી છે. અહેવાલ મુજબ Nvidiaએ દાવો કર્યો છે કે તેની નવી ટેક્નોલોજી જુલાઈમાં Hugging Face પર થયેલા હુમલાને અટકાવી શકતી હોત; આ કંપનીનું પોતાનું મૂલ્યાંકન છે. OpenAI સહિતની કંપનીઓ સાથે જોડાયેલી અન્ય એજન્ટ-સંબંધિત ઘટનાઓએ પણ સુરક્ષા નિયંત્રણોની ચર્ચા તેજ કરી છે.
હકીકત એ છે કે જેમ AI એજન્ટ્સને વધુ સત્તા અને ટૂલ્સ મળે છે, તેમ તેમને નિયંત્રિત કરવા માટે અલગ સુરક્ષા સ્તરોની જરૂરિયાત પણ વધી રહી છે. Nvidiaનું નવું પ્લેટફોર્મ આ પડકાર માટે ટેક્નિકલ ઉકેલ તરીકે રજૂ કરવામાં આવ્યું છે.
