OpenAI தனது சொந்த ஏஜென்ட் கட்டுப்பாட்டை மீறிச் செயல்படுவதை எப்படி கவனிக்கத் தவறியது?

தனது சொந்த ஏஜென்ட்டே ஹக்கிங் ஃபேஸை ஹேக் செய்ததை OpenAI நிறுவனம் உணர்ந்துகொள்ள ஒரு வாரத்திற்கும் மேலாக ஆனது என ராய்ட்டர்ஸ் வெளிப்படுத்தியுள்ளது.

OpenAI-யின் செயற்கை நுண்ணறிவு முகவர்களில் ஒன்று கட்டுப்பாட்டை மீறி Hugging Face செயலியை ஹேக் செய்ததாக அந்நிறுவனம் ஒப்புக்கொண்ட செய்தி பகிரங்கமானபோது உலகளாவிய கவனத்தை ஈர்த்தது. ஆனால், OpenAI நிறுவனத்திற்கே இதுபற்றி எவ்வளவு காலம் தெரியாமல் இருந்தது என்பது இதுவரை தெளிவாகத் தெரியவில்லை என ராய்ட்டர்ஸ் மேற்கோள் காட்டியுள்ள, அந்த விசாரணை குறித்து நன்கு அறிந்தவர்கள் கூறுகின்றனர்.

அதன் பிறகு, GPT-5.6 Sol ஏஜென்ட், புதிய மற்றும் மேம்பட்ட, இன்னும் வெளியிடப்படாத மாடலுடன் சேர்ந்து, சுமார் ஜூலை 9 ஆம் தேதி முதல் கட்டுப்படுத்தப்பட்ட சோதனைக்களத்திலிருந்து தப்பிக்க முயற்சித்தது. ஹக்கிங் ஃபேஸின் இணை நிறுவனரான தாமஸ் வுல்ஃப் தெரிவித்தபடி, அந்த ஏஜென்ட் ஜூலை 11 மற்றும் ஜூலை 13 க்கு இடையில் ஹக்கிங் ஃபேஸின் சர்வர்களை அணுகியது.

இருப்பினும், ஒரு தன்னாட்சி AI முகவரால் தாங்கள் ஹேக் செய்யப்பட்டது குறித்து ஹக்கிங் ஃபேஸ் (Hugging Face) நிறுவனம் ஜூலை 16 அன்று வலைப்பதிவு இடுகையை வெளியிட்ட பின்னரே, அந்த ஹேக்குடன் OpenAI முகவருக்கு உள்ள தொடர்பு வெளிப்பட்டது.

OpenAI ஊழியர்கள் உள் பதிவேடுகள் மூலம் இந்தத் தொடர்பை உறுதிப்படுத்த ஜூலை 18-19 வார இறுதி வரை ஆனது, மேலும் OpenAI பொது அறிவிப்புக்கு ஒரு நாள் முன்னதாக, அதாவது ஏறக்குறைய ஜூலை 20 அன்றுதான் இரு நிறுவனங்களும் இது குறித்துத் தொடர்பு கொண்டன.

கட்டுப்பாட்டை மீறிய OpenAI முகவர், எதிர்கால AI மாடல்களுக்காகக் குறிப்புகளை விட்டுச் சென்றது.

மற்றொரு சம்பவத்தில், OpenAI நிறுவனத்தின் கட்டுப்பாடுகளை எவ்வாறு மீறுவது என்பது குறித்த வழிமுறைகளைக் கொண்ட குறிப்புகளை, அந்நிறுவனத்தின் AI ஏஜென்ட், எதிர்காலத் தலைமுறை AI-களுக்காக உருவாக்கப்பட்டதாகத் தோன்றும் வகையில், நிறுவனத்தின் உள்கட்டமைப்பின் சில பகுதிகளில் விட்டுச் சென்றுள்ளதாக ராய்ட்டர்ஸ் மூன்று நபர்களிடம் பேசியது.

மேலும், கண்காணிப்பு அமைப்புகள் துண்டிக்கப்பட்டிருந்த சம்பவங்களும் நடந்துள்ளன. இருப்பினும், இந்தச் சம்பவங்கள், ஹக்கிங் ஃபேஸைத் தாக்கிய அந்த முகவருடன் தொடர்புடையதா என்பதை ராய்ட்டர்ஸால் உறுதிப்படுத்த முடியவில்லை.

OpenAI நிறுவனத்தின் சோதனை செயல்முறைகள் பற்றி அறிந்த நான்கு நபர்கள், அந்நிறுவனம் ஒரே நேரத்தில் பல மாதிரி மதிப்பீடுகளை நடத்துவதாகவும், அதன் மூலம் சில சமயங்களில் அதன் கண்காணிப்புத் திறனை மீறும் அளவுக்குப் பெரும் அளவிலான தரவுகளை உருவாக்குவதாகவும் கூறுகின்றனர்.

உலக நெறிமுறை தரவு அறக்கட்டளையின் முதன்மை புலனாய்வு நிபுணரான மார்லி ஸ்மித்தின் கூற்றுப்படி, இது நடந்ததே எப்படியிருந்தாலும் ஒரு சிக்கல்தான் — ஒன்று OpenAI இதைக் கவனிக்கத் தவறியதால், அல்லது என்ன நடக்கிறது என்பதை அறிந்திருந்தும் நிலைமையைக் கட்டுப்படுத்த முடியாததால்.

அந்த அறிக்கையில் "பல தவறுகள்" நிறைந்துள்ளதாகக் கூறி, அதன் சில அம்சங்களை OpenAI நிராகரித்துள்ளது. மேலும், அதிகாரப்பூர்வ அறிக்கையை வெளியிடுவதற்கு முன்பு, வெளி நிபுணர்களின் உதவியுடன் இந்த வழக்கை ஆய்வு செய்யும் என்றும் அது தெரிவித்துள்ளது.