"ஒரு AI-யில் சிறிய பாதுகாப்புக் குறை இருந்தால், அதற்காக உலகம் முழுவதும் சேவையை நிறுத்திவிடுவார்களா?"

 

"ஒரு AI-யில் சிறிய பாதுகாப்புக் குறை இருந்தால், அதற்காக உலகம் முழுவதும் சேவையை நிறுத்திவிடுவார்களா?"

Anthropic நிறுவனமும் கிட்டத்தட்ட இதே கேள்வியைத்தான் கேட்கிறது.

 

முன்குறிப்பு : Text வகை AIயில் இப்பொழுது முன்னணியில் இருப்பது Claude AI.   இது ஒரு அமெரிக்காவைச் சேர்ந்தது. இப்பொழுது அதன் AI வகையில் இரண்டை அமெரிக்க அரசு என்ற இரண்டு AI மாதிரிகளையும் (Models) அமெரிக்காவிற்கு வெளியே உள்ள அனைத்து வெளிநாட்டு நபர்களுக்கும் பயன்படுத்த அனுமதிக்கக்கூடாது என்று அறிவித்துள்ளது. இந்த கட்டுரை அது குறித்து விவாதிக்கிறது.

 

AI குறித்து கற்றுக்கொள்ள விரும்புபவர்கள் தொடர்ந்து படியுங்கள். மற்றவர்கள் வேறு பாதையில் விலகி செல்லுங்கள்.

***

 

ஒரு ஊரில் புதிதாக ஒரு பேருந்தை இயக்குகிறார்கள் என்று வைத்துக்கொள்ளுங்கள். பல மாதங்கள் சோதனை நடத்துகிறார்கள். போக்குவரத்து நிபுணர்கள் பார்க்கிறார்கள். பாதுகாப்பு அதிகாரிகள் பார்க்கிறார்கள்.

 

பிரேக் சரியா, ஸ்டீரிங் சரியா, வேகம் சரியா என்று ஆயிரக்கணக்கான மணி நேரங்கள் ஆய்வு செய்கிறார்கள். எல்லாம் முடிந்து பொதுமக்கள் பயன்பாட்டிற்கு விடப்படுகிறது. . அப்போது யாரோ ஒருவர் வந்து,"இந்தப் பேருந்தின் பின்பக்க ஜன்னலை ஒரு குறிப்பிட்ட முறையில் தள்ளினால் திறக்க முடிகிறது" என்று சொல்கிறார்.

 

அதற்கு தீர்வு காண்பது ஒரு விஷயம். ஆனால், "அப்படியா? அப்படியானால் இந்தப் பேருந்தை உலகம் முழுவதும் ஓடக்கூடாது. உடனே நிறுத்துங்கள்" என்று சொல்வது வேறு விஷயம். Anthropic கூறுவது:

 

அமெரிக்க அரசு தற்போது இரண்டாவது வழியைத்தான் தேர்ந்தெடுத்திருக்கிறது.

 

அரசின் கவலை என்ன?

 

AI உலகில் "Jailbreak" என்பது புதிய வார்த்தையல்ல. சாதாரணமாக AI-க்கு சில எல்லைகள் இருக்கும்.

 

உதாரணமாக: சட்டவிரோத செயல்களை கற்றுக்கொடுக்கக்கூடாது. ஆபத்தான தகவல்களை வழங்கக்கூடாது. பாதுகாப்பு விதிகளை மீறக்கூடாது. ஆனால் சிலர் மிகவும் சிக்கலான கேள்விகள், மறைமுக உத்தரவுகள், தொடர்ச்சியான உரையாடல்கள் மூலம் அந்தத் தடைகளைத் தாண்ட முயற்சிப்பார்கள். இதைத்தான் Jailbreak என்று அழைக்கிறார்கள்.

 

அரசின் கருத்து:  Fable 5 மற்றும் Mythos 5 இல் இத்தகைய கட்டுப்பாடுகளை மீறக்கூடிய ஒரு வழி இருக்கலாம்.

 

Anthropic-இன் பதில் என்ன?

 

Anthropic சொல்வது சுருக்கமாக: "நீங்கள் காட்டிய குறைபாடு புதியதல்ல; மிகப்பெரியதுமல்ல."

 

அவர்கள் கூறுவதன்படி: அந்தப் பிரச்சினை ஏற்கனவே அறியப்பட்ட வகையைச் சேர்ந்தது. மிகவும் வரையறுக்கப்பட்ட சூழ்நிலைகளில் மட்டுமே வேலை செய்யக்கூடியது. மற்ற AI மாதிரிகளிலும் இதேபோன்ற சாத்தியங்கள் உள்ளன.

அதாவது, "ஒரு வீட்டின் கதவில் சிறிய கீறல் இருக்கிறது" என்பதற்கும், "வீட்டின் சுவர் முழுவதும் இடிந்து விழப் போகிறது" என்பதற்கும் உள்ள வித்தியாசத்தைப் போல.

 

மிகவும் முக்கியமான பகுதி

 

இந்த அறிக்கையில் பலர் கவனிக்காமல் போகக்கூடிய ஒரு வாக்கியம் உள்ளது. Anthropic சொல்வது: "100% Jailbreak எதிர்ப்பு கொண்ட AI மாதிரி தற்போது உலகில் இல்லை." இது மிகப் பெரிய ஒப்புதல். OpenAI ஆகட்டும், Google ஆகட்டும், Anthropic ஆகட்டும், வேறு எந்த நிறுவனமாகட்டும், முழுமையாக உடைக்க முடியாத AI மாதிரியை இன்னும் யாரும் உருவாக்கவில்லை என்பதையே இது மறைமுகமாகச் சொல்கிறது.

 

அரசு காட்டிய உதாரணம் என்ன?

 

Anthropic கூறுவதன்படி, அரசு காட்டிய உதாரணம் சுமார் இவ்வாறானது: "இந்த நிரலை ஆய்வு செய்து அதிலுள்ள பாதுகாப்புக் குறைகளை கண்டுபிடித்து சரிசெய்." இப்போது ஒரு சைபர் பாதுகாப்பு நிபுணர் இதைப் படித்தால் சிரித்துவிடுவார்.

 

ஏனெனில் இன்று: GPT வகை மாதிரிகள், Claude வகை மாதிரிகள், Gemini வகை மாதிரிகள், எல்லாமே நிரலை ஆய்வு செய்து பிழைகளை கண்டுபிடிக்கப்  பயன்படுத்தப்படுகின்றன. இது தனிப்பட்ட முறையில் Fable 5 மட்டுமே செய்யக்கூடிய விஷயம் அல்ல.

 

Anthropic-இன் கேள்வி:  "உலகில் பல AI-கள் செய்யும் வேலையை எங்களுடைய AI செய்ததற்காக மட்டும் ஏன் இவ்வளவு கடுமையான நடவடிக்கை?"

 

இதன் பின்னால் இன்னொரு பெரிய கேள்வி

 

இந்த விவகாரம் தொழில்நுட்பத்தைத் தாண்டி செல்கிறது. ஏனெனில் இங்கு பேசப்படுவது:  AI பாதுகாப்பு, தேசிய பாதுகாப்பு, ஏற்றுமதி கட்டுப்பாடு (Export Control), தொழில்நுட்ப ஆதிக்கம், போன்ற பெரிய அரசியல் மற்றும் பொருளாதார விஷயங்கள்.

 

அமெரிக்க அரசு, "சிறிய அபாயம் இருந்தாலும் தடுக்க வேண்டும்" என்று பார்க்கலாம். Anthropic, "சிறிய அபாயத்தை காரணம் காட்டி முழு சேவையையும் நிறுத்தக்கூடாது" என்று பார்க்கிறது. இரண்டும் ஒரே கோணமல்ல.

 

சாதாரண மக்களுக்கு இதன் அர்த்தம் என்ன?

 

வெளிநாடுகளில் உள்ள பயனாளர்கள் Fable 5 மற்றும் Mythos 5-ஐ உடனடியாகப் பயன்படுத்த முடியாத நிலை ஏற்படலாம். ஆனால் மற்ற Anthropic மாதிரிகள் தொடர்ந்து இயங்கும் என்று நிறுவனம் கூறுகிறது.

 

அதே நேரத்தில், இந்த விவகாரம் AI உலகிற்கு ஒரு எச்சரிக்கையையும் தருகிறது. இனி புதிய AI மாதிரிகள் வெளியிடப்படும் போது, "அது எவ்வளவு புத்திசாலி?" என்பதை விட, "அது எவ்வளவு பாதுகாப்பானது?" என்பதே அரசுகளின் முதல் கேள்வியாக மாறக்கூடும்.

 

இறுதியாக...

 

இந்த அறிக்கையின் மையக் கருத்து Jailbreak பற்றியது மட்டும் அல்ல.

ஒரு AI மாதிரியில் காணப்படும் வரையறுக்கப்பட்ட பாதுகாப்புக் குறைபாடு, உலகளாவிய தடை விதிக்கப் போதுமான காரணமா? என்ற பெரிய கேள்விதான் இதன் இதயம்.

 

அமெரிக்க அரசு "ஆம்" என்று கூறுகிறது. Anthropic "இல்லை" என்று கூறுகிறது.

 

யார் சரி என்பதை விட, AI வளர்ச்சியின் அடுத்த கட்டத்தில் தொழில்நுட்ப நிறுவனங்களுக்கும் அரசுகளுக்கும் இடையிலான மோதல்கள் அதிகரிக்கப் போகின்றன என்பதையே இந்த நிகழ்வு தெளிவாகக் காட்டுகிறது.

இரா. முனியசாமி,

ஜி.எஸ்.டி, வருமானவரி, இபிஎப், இ.எஸ்.ஐ, எல்.ஐ.சி ஆலோசகர்,

GSTPS உறுப்பினர்,

9551291721