OpenAI சமீபத்தில் GPT-4o இன் பாதுகாப்பு மதிப்பாய்வை நடத்தியது, இது ChatGPT குரல் பயன்முறை பயனர்கள் “AI உடன் சமூக உறவுகளை ஏற்படுத்திக் கொள்ளலாம்” மற்றும் தோழமைக்காக தேடலாம் என்பதைக் கண்டறிந்தது.
“GPT-4o சிஸ்டம் கார்டு” என்ற தலைப்பில் பாதுகாப்பு மறுஆய்வு அறிக்கையின் ஒரு பகுதியாக இந்த கண்டுபிடிப்புகள் வெளியிடப்பட்டன, இது OpenAI ஆனது GPT-4o ஐ பொது மக்களுக்கு கிடைக்கச் செய்வதற்கு முன் மேற்கொள்ளப்பட்ட பாதுகாப்பு பணிகளை கோடிட்டுக் காட்டுகிறது.
OpenAI ஆல் அடையாளம் காணப்பட்ட பாதுகாப்பு சவால்களில் AI மாதிரியானது சிற்றின்ப மற்றும் வன்முறையான பதில்களை வழங்குதல், அனுமதிக்கப்படாத உள்ளடக்கத்தை உருவாக்குதல் அல்லது பக்கச்சார்பான உள்ளடக்கத்தை உருவாக்குதல் போன்ற அபாயங்களை உள்ளடக்கியிருந்தாலும், அதனுடன் தொடர்புடைய அபாயங்களில் ஒன்று, பயனர்கள் “AI உடன் சமூக உறவுகளை உருவாக்கி” அதன் மூலம் மனித தேவையை குறைக்கலாம் என்று கூறுகிறது.
“மாதிரியுடன் நீட்டிக்கப்பட்ட தொடர்பு சமூக விதிமுறைகளை பாதிக்கலாம்” என்றும் நிறுவனம் குறிப்பிட்டது. எவ்வாறாயினும், அறிக்கையில் உள்ள அபாயங்கள் புதிய மேம்பட்ட குரல் பயன்முறைக்கு மட்டுமே பொருந்தும், இது மனித பேச்சைப் பிரதிபலிக்கும் மற்றும் உணர்ச்சிகளைக் கூட வெளிப்படுத்தும் திறன் கொண்டது.
GPT-4o-யின் உள் சோதனைகளின் போது, மனிதர்கள் அரட்டையடிப்புடன் இணைக்கப்பட்டு, உணர்ச்சிப்பூர்வமான பிணைப்பை ஏற்படுத்திய நிகழ்வுகளையும் கண்டறிந்ததாக OpenAI வெளிப்படுத்தியது. நீங்கள் சாட்போட்டின் குரல் பயன்முறையைப் பயன்படுத்தும் நேரத்தைக் குறைப்பதைத் தவிர வேறு எந்தச் சிக்கலுக்கும் தற்போது தீர்வு இல்லை என்றாலும், ஓபன்ஏஐ “உணர்ச்சி சார்ந்த சார்புக்கான சாத்தியக்கூறுகளை மேலும் ஆய்வு செய்ய விரும்புகிறது” என்றும் நிறுவனம் கூறியது.