કૃત્રિમ બુદ્ધિ (એઆઇ)ના વિકાસ સાથે, તેના સંભવિત નુકસાન અને જોખમો વિશે સતત ચર્ચા થઈ રહી છે. હવે, અમેરિકન એઆઇ અને સંશોધન કંપની એન્થ્રોપિક પીબીસીએ જણાવ્યું છે કે એઆઇ વિકાસને અસ્થાયી રૂપે રોકવા માટે એક સિસ્ટમ હોવી જોઈએ. આનો સીધો અર્થ એ છે કે એઆઇ કિલ સ્વીચ અથવા પોઝ બટન હોવું જોઈએ.

કંપનીના સહ-સ્થાપક, જેક ક્લાર્ક અને મરિના ફેવારોએ આજે ​​પ્રકાશિત એક બ્લોગ પોસ્ટમાં એક ચોક્કસ માંગણી કરી છે. પોસ્ટમાં જણાવાયું છે કે એઆઇ ટેકનોલોજી એટલી ઝડપથી આગળ વધી રહી છે કે તે માનવ કાર્યની ઉત્પાદકતામાં નોંધપાત્ર વધારો કરી શકે છે અથવા તો મનુષ્યોને બદલી પણ શકે છે. પોસ્ટમાં, ક્લાર્ક અને ફેવારો લખે છે કે એઆઇ ભવિષ્યમાં પોતાને સુધારી શકે છે અને પોતાનું આગલું સંસ્કરણ જાતે બનાવી શકે છે. પછી, માનવીની ભૂમિકા ધીમે ધીમે ઓછી થઈ શકે છે.

આ પોસ્ટ આગળ સમજાવે છે કે એક એવું ભવિષ્ય જ્યાં એઆઇ સતત તેની બુદ્ધિ અને ગતિમાં સુધારો કરે છે, જ્યારે માનવ સમાજ, સંબંધો અને શાસન અસ્તિત્વમાં હોય છે, તેની આગાહી કરવી વધુને વધુ મુશ્કેલ બને છે. બ્લોગ પોસ્ટ આ વિચારની તુલના આંતરરાષ્ટ્રીય પરમાણુ શસ્ત્ર નિયમન સાથે કરે છે. સહ-સ્થાપક કહે છે કે જો એઆઇ વિકાસ પર નિયમો સ્થાપિત થાય છે, તો કેટલીક એઆઇ પ્રયોગશાળાઓને ગુપ્ત રીતે ટેકનોલોજીને આગળ વધારવાથી રોકવા માટે એક સિસ્ટમ હોવી જોઈએ. આ માટે અન્ય પ્રયોગશાળાઓ દ્વારા દેખરેખ અને ચકાસણીની જરૂર પડી શકે છે.

એઆઇ પર પોઝ બટન અથવા કીલ સ્વિચની માંગ પહેલીવાર નથી. એઆઇને નિયંત્રિત કરવા માટેના કોલ પહેલા પણ ઉઠાવવામાં આવ્યા છે. 2023માં, ફ્યુચર ઓફ લાઇફ ઇન્સ્ટિટ્યૂટે એઆઇ પર છ મહિનાની મુદતની માંગ કરી હતી જેથી તેને રોકવા માટે સલામતી નિયમો સ્થાપિત કરી શકાય. એન્થ્રોપિક સતત અદ્યતન એઆઇ મોડેલો વિકસાવી રહ્યું છે અને ટૂલ્સ લોન્ચ કરી રહ્યું છે. આમાં એઆઇ સહાયક ક્લાઉડ અને એક નવું મોડેલ, માયથોસનો સમાવેશ થાય છે, જેનો કંપની દાવો કરે છે કે તે ઝડપથી સાયબર સુરક્ષા નબળાઈઓને ઓળખી શકે છે.