વોશિંગ્ટનમાં યોજાયેલી બેઠક બાદ અમેરિકી રાષ્ટ્રપતિ ડોનાલ્ડ ટ્રમ્પ અને અગ્રણી AI કંપનીઓના નેતાઓએ AIની સુરક્ષા માટે સ્વૈચ્છિક કરાર પર સહમતી વ્યક્ત કરી છે. ‘Joint Commitment on Frontier Responsibilities’ હેઠળ અદ્યતન AI મોડેલ્સ માટે આંતરિક નિયંત્રણ, મોનિટરિંગ અને બાહ્ય ઓડિટની વ્યવસ્થા ઊભી કરવાનો પ્રસ્તાવ છે.
આ કરારમાં Googleના સુંદર પિચાઈ, Metaના માર્ક ઝુકરબર્ગ, xAIના એલોન મસ્ક, Nvidiaના જેન્સેન હુઆંગ, Anthropicના ડારિયો અમોદેઈ અને OpenAIના ગ્રેગ બ્રોકમેન સહિતના ટેક નેતાઓ જોડાયા હતા. કરાર હાલમાં સ્વૈચ્છિક છે અને કાયદેસર રીતે બાધ્યક નથી.
ફ્રેમવર્કમાં AI સુરક્ષા માટે ચાર સ્તરની વ્યવસ્થા સૂચવાઈ છે:
- પ્રથમ સ્તર: કંપનીઓએ AI મોડેલના ટ્રેનિંગ અને ડિપ્લોયમેન્ટ દરમિયાન સાયબર સિક્યોરિટી સહિતના જોખમો માટે આંતરિક નિયંત્રણો રાખવાના રહેશે.
- બીજું સ્તર: કંપનીની અંદર અલગ ટીમ નિયંત્રણો, મોનિટરિંગ અને જોખમોની ઓળખની દેખરેખ રાખશે.
- ત્રીજું સ્તર: સ્વતંત્ર બાહ્ય ઓડિટર દ્વારા કંપનીની સુરક્ષા વ્યવસ્થા અને નિયંત્રણોની તપાસ કરવામાં આવશે.
- ચોથું સ્તર: કંપનીના બોર્ડ હેઠળ સ્વતંત્ર સમિતિ આંતરિક ટીમ અને બાહ્ય ઓડિટરના અહેવાલોની સમીક્ષા કરશે.
આ વ્યવસ્થાનો મુખ્ય ઉદ્દેશ્ય અદ્યતન AI સિસ્ટમ્સથી ઊભા થઈ શકે તેવા સાયબર સિક્યોરિટી, બાયોસિક્યોરિટી અને અનધિકૃત સિસ્ટમ ઍક્સેસ જેવા જોખમોને ઓળખવા અને ઘટાડવાનો છે. કરાર હેઠળ કંપનીઓ AIની ક્ષમતાઓમાં વધારો થાય તેમ સુરક્ષા ધોરણોને પણ સમયાંતરે અપડેટ કરવા માટે સહકાર આપશે.
કરારને હાલ સ્વૈચ્છિક ધોરણે અમલમાં મૂકવાનો પ્રસ્તાવ છે; જોકે ભવિષ્યમાં આ પ્રકારના સુરક્ષા ધોરણોને કાયદાકીય માળખામાં સામેલ કરવાની શક્યતા અંગે પણ ચર્ચા થઈ છે.
