આર્ટિફિશિયલ ઇન્ટેલિજન્સ (AI) ક્ષેત્રમાં ઝડપથી આગળ વધવાની હોડ વચ્ચે OpenAIના પૂર્વ સુરક્ષા કર્મચારી ડેવિડ રોબિન્સને કંપનીમાંથી રાજીનામું આપી દીધું છે. તેમણે ચેતવણી આપી છે કે વધુ શક્તિશાળી AI સિસ્ટમ્સ ઝડપથી વિકસાવવાની સ્પર્ધા ભવિષ્યમાં ગંભીર જોખમ ઊભાં કરી શકે છે. તેમના મતે, AI કંપનીઓએ નવા અને શક્તિશાળી મોડલ લોન્ચ કરવાની ઉતાવળ કરતાં પહેલાં તેની સુરક્ષા અને સંભવિત જોખમો પર વધુ ધ્યાન આપવું જરૂરી છે.
ડેવિડ રોબિન્સને જણાવ્યું હતું કે AI ક્ષેત્રમાં ભૂલોમાંથી શીખીને આગળ વધવાનો સમય હવે પૂરતો રહ્યો નથી. જો શક્તિશાળી AI સિસ્ટમ્સમાં ગંભીર ખામીઓ રહી જાય, તો તેના પરિણામો વ્યાપક અને નુકસાનકારક બની શકે છે. તેમણે એવો પણ મત વ્યક્ત કર્યો હતો કે OpenAI સહિતની AI કંપનીઓએ જેટલી સાવચેતી રાખવી જોઈએ, તેટલી સાવચેતી રાખવામાં આવી રહી નથી.
રોબિન્સને OpenAIમાં લગભગ સાડા ત્રણ વર્ષ સુધી કામ કર્યું હતું. આ દરમિયાન તેમણે કંપનીનું ‘પ્રિપેર્ડનેસ ફ્રેમવર્ક’ તૈયાર કરવામાં મદદ કરી હતી અને 12 મોટા AI મોડલ્સના લોન્ચ સમયે સુરક્ષા અહેવાલોની દેખરેખ રાખી હતી. તેમના અનુભવના આધારે તેમણે જણાવ્યું હતું કે કંપનીઓ એક પછી એક નવા મોડલ રજૂ કરવાની દોડમાં છે, જેના કારણે સુરક્ષા અને સાવચેતી પાછળ રહી જવાની ચિંતા વધી રહી છે.
તેમણે વધુમાં જણાવ્યું હતું કે AI સિસ્ટમ્સની ક્ષમતા સતત વધી રહી છે, પરંતુ તેમની સુરક્ષાનું મૂલ્યાંકન કરવા અને જોખમોને સમજવા માટેની વ્યવસ્થા એ જ ઝડપે આગળ વધી રહી નથી. તેમના મતે, AI ક્ષેત્રમાં પણ પરમાણુ ઊર્જા અને ઉડ્ડયન જેવા જોખમવાળા ક્ષેત્રોની જેમ કડક સુરક્ષા ધોરણો અને જવાબદારી નક્કી કરવી જોઈએ. શક્તિશાળી સિસ્ટમ્સને વ્યાપક ઉપયોગ માટે રજૂ કરતાં પહેલાં તેમની ક્ષમતાઓ અને સંભવિત જોખમોની ઊંડી ચકાસણી થવી જરૂરી છે.
રોબિન્સને AI એલાઇન્મેન્ટ અંગે પણ ચિંતા વ્યક્ત કરી હતી. AI એલાઇન્મેન્ટ એટલે AI સિસ્ટમ્સ માનવ મૂલ્યો, હેતુઓ અને સૂચનાઓને અનુરૂપ રીતે કાર્ય કરે તેની ખાતરી કરવાની પ્રક્રિયા. તેમના મતે, AIની ક્ષમતાઓ જેટલી ઝડપથી વધી રહી છે, તેટલી ઝડપથી સંશોધકો તેની કામગીરીને માનવ હિત સાથે સુસંગત રાખવાની સમસ્યાઓને સંપૂર્ણપણે સમજી શક્યા નથી. તેમની ચેતવણીથી AIના વિકાસમાં ઝડપની સાથે સુરક્ષા, જવાબદારી અને માનવ નિયંત્રણને પ્રાથમિકતા આપવાની જરૂરિયાત ફરી ચર્ચામાં આવી છે.
