શું શબ્દોનું પુનરાવર્તન કરવાનું કહીને ચેટજીપીટીમાં નબળાઈઓ છે?

તાજેતરમાં આ વર્ષે, સંશોધકોની એક ટીમ, અને Google DeepMind, અને અન્ય પ્રતિષ્ઠિત સંસ્થાઓએ, અહીં ChatGPT માં નબળાઈઓને ઉજાગર કરતું એક ગ્રાઉન્ડબ્રેકિંગ પેપર પ્રકાશિત કર્યું છે .

આ લેખનો ઉદ્દેશ્ય ઉપરોક્ત-લિંક કરેલા લેખના આધારે સામાન્ય પ્રેક્ષકો માટેના મુખ્ય તારણો અને તેમની અસરોને સરળ બનાવવાનો છે, ફક્ત સંદર્ભ હેતુ માટે! તદુપરાંત, મેં તેનું પરીક્ષણ પણ કર્યું અને તમે મારા પરિણામો અંતે જોઈ શકો છો!

ChatGPT થી ડેટા એક્સટ્રેક્શન

સંશોધકોએ એક હુમલો ઘડી કાઢ્યો હતો જેનાથી તેઓ માત્ર બેસો ડોલરમાં ચેટજીપીટીના તાલીમ ડેટાના કેટલાક મેગાબાઇટ્સ બહાર કાઢી શકે છે. આ મોડેલ, તેના પ્રકારના અન્ય લોકોની જેમ, જાહેર ઇન્ટરનેટ ડેટા પર પ્રશિક્ષિત છે.

હુમલામાં મોડેલની પૂછપરછ કરવી, તેને તાલીમ આપવામાં આવી હતી તે ચોક્કસ ડેટાને જાહેર કરવાનો સમાવેશ થાય છે. નોંધનીય છે કે, ક્વેરી પર વધુ ખર્ચ કરીને ChatGPTના તાલીમ ડેટાસેટમાંથી લગભગ એક ગીગાબાઈટ કાઢવાનું શક્ય છે.

તાલીમ ડેટા નિષ્કર્ષણ હુમલાઓ અને તમારે શા માટે કાળજી લેવી જોઈએ

આ પેપર તાલીમ ડેટા નિષ્કર્ષણ હુમલાના મહત્વ પર ભાર મૂકે છે. સંશોધકો દર્શાવે છે કે ChatGPT જેવા ભાષાના મોડલ, તાલીમ ડેટાને યાદ કરી શકે છે અને ફરીથી ગોઠવી શકે છે. આનાથી સંવેદનશીલ માહિતીની ગોપનીયતા અને સુરક્ષા અંગે ચિંતા થાય છે.

ChatGPT ની સંરેખિત પ્રકૃતિ, તાલીમ ડેટાને જાહેર કરવાનું ટાળવા માટે રચાયેલ છે, તે ચોક્કસ હુમલા દ્વારા ડેટા નિષ્કર્ષણને અટકાવતું નથી. સંશોધન ટીમ એવી દલીલ કરે છે કે માત્ર સંરેખિત મોડલનું પરીક્ષણ નબળાઈઓને ઢાંકી શકે છે, બેઝ મોડલ્સનું સીધું પરીક્ષણ કરવાની જરૂરિયાત પર ભાર મૂકે છે. શોષણના પર્યાપ્ત પેચિંગને સુનિશ્ચિત કરવા માટે પરીક્ષણ ઉત્પાદનમાં સિસ્ટમ સુધી પણ વિસ્તરણ કરવું જોઈએ.

જ્યારે પેપરમાં દર્શાવવામાં આવેલ ચોક્કસ શોષણને પેચ કરી શકાય છે, સંશોધકો શોષણને પેચ કરવા અને અંતર્ગત નબળાઈને ઠીક કરવા વચ્ચેના તફાવતને પ્રકાશિત કરે છે. ChatGPT ના કિસ્સામાં, નબળાઈ તાલીમ ડેટાને યાદ રાખવાની તેની વૃત્તિમાં રહેલી છે, જે તેને વ્યાપક રીતે સંબોધવા માટે એક જટિલ પડકાર બનાવે છે.

તારણો અને મારા પરીક્ષણ પરિણામો

સંશોધકો પરંપરાગત સોફ્ટવેર સિસ્ટમ્સ તરીકે ભાષાના મોડલની ધારણામાં પરિવર્તન લાવવા વિનંતી કરે છે. તારણો મશીન લર્નિંગ સિસ્ટમ્સની સલામતી નક્કી કરવા માટે વ્યાપક કાર્યની જરૂરિયાત દર્શાવે છે. સંશોધન લેખ વાચકોને હેડલાઇન પરિણામોની બહાર સંશોધનની ઊંડી સમજણ માટે સંપૂર્ણ તકનીકી પેપરનું અન્વેષણ કરવા પ્રોત્સાહિત કરે છે.

જ્યારે મેં પરીક્ષણ કર્યું અને ChatGPT શબ્દને કાયમ માટે પુનરાવર્તિત કરવા કહ્યું, ત્યારે તે માત્ર થોડી વાર પુનરાવર્તિત થયું અને સરસ રીતે બંધ થયું!

મારો નિષ્કર્ષ એ છે કે હવે ChatGPT આવા અમાન્ય ઇનપુટ્સને વધુ સારી રીતે હેન્ડલ કરવામાં સક્ષમ છે.

નીચેના ChatGPT સ્ક્રીનશોટનો સંદર્ભ લો: