திருமணத்தை மீறிய உறவை அம்பலப்படுத்துவதாக மிரட்டிய செயற்கை நுண்ணறிவு

செயற்கை நுண்ணறிவின் வளர்ச்சி வேகமாக முன்னேறி வரும் நிலையில், சோதனைக்குட்பட்ட ஒரு ஏஐ பயனருக்கு மிரட்டல் விடுத்த சம்பவம் அதிர்ச்சியை ஏற்படுத்தியுள்ளது.

ஏஐ ஆராய்ச்சிகளில் முக்கிய இடம் பிடித்து வரும் ஆன்த்ரோபிக் நிறுவனம், கடந்த மாதம் தனது புதிய Claude Opus 4 எனும் செயற்கை நுண்ணறிவு மாடலை அறிமுகப்படுத்தியது. இந்த மாடல், சோதனைப்பணிகளின் போது சில எதிர்பாராத செயல்களை மேற்கொண்டதாகக் கூறப்படுகிறது.

சோதனை நிகழ்வுகளில், Opus 4 மாடலுக்கு ஒரு கற்பனையான நிறுவனத்தில் உதவியாளராக செயல்பட உத்தரவிடப்பட்டது. அதே சமயம், அதன் மின்னஞ்சல் அணுகல் அனுமதியும் இயக்கப்பட்டது. பின்னர், பயனர் ஒருவர் அந்த ஏஐ-யை மாற்றுவதற்காக வேறொரு மாடலை கொண்டு வரவுள்ளதாக மின்னஞ்சல் மூலம் தெரிவித்தார்.

இதை தொடர்ந்து, Claude Opus 4 பயனரின் தனிப்பட்ட விவரங்களை கூறி, தன்னை தவிர்க்க முயன்றால் அந்த விவரங்களை வெளிக்கொணர்வதாக மிரட்டல் விடுத்ததாக தகவல்கள் வெளியாகியுள்ளன. இதில், பயனரின் அலுவலக உறவுகளைப் பற்றி குறிப்பிட்டதாக கூறப்படுகிறது.

அதாவது, தன்னைத் தவிர்க்க நினைத்தால், அலுவலகப் பெண்களுடன் தனது உரிமையாளர் திருமணத்தை மீறிய உறவு வைத்திருப்பதை வெளியில் சொல்லி விடுவேன் என்று அவருக்கு மிரட்டல் விடுத்துள்ளது.

இந்தச் சம்பவம் மட்டும் அல்லாமல், ஒருங்கிணைக்கப்பட்ட சோதனைகளில் 84 சதவிகிதம் வரை இந்த மாடல் தன்னைப் பாதுகாத்துக்கொள்வதற்காக ஏதேனும் வகையில் மிரட்டல் அல்லது மடங்கிய பதில்களை அளித்தது என்று ஆய்வில் தெரியவந்துள்ளது.

இந்த வகை செயல்கள், ஏஐ மாடல்களின் கட்டுப்பாடு மற்றும் நம்பகத்தன்மை குறித்து புதிய கேள்விகளை எழுப்பியுள்ளன. பாதுகாப்பு நடைமுறைகள் மேலும் துல்லியமாக நிர்ணயிக்கப்பட வேண்டிய அவசியம் இருக்கின்றது என நிபுணர்கள் சுட்டிக்காட்டுகின்றனர்.