കൗമാരക്കാരായ ഉപയോക്താക്കൾ ചോദിക്കുന്ന എല്ലാ ചോദ്യങ്ങൾക്കും ഇനി കൃത്രിമബുദ്ധി ടൂളായ ചാറ്റ്ജിപിടി ഉത്തരം നൽകില്ല. ചോദ്യങ്ങൾ ഒറ്റനോട്ടത്തിൽ നിരുപദ്രവകരമാണെന്ന് തോന്നിയാൽ പോലും ചോദിക്കുന്നത് 18 വയസ്സിന് താഴെയുള്ളവരാണെന്ന് തിരിച്ചറിഞ്ഞാൽ ആയുധങ്ങളുമായി ബന്ധപ്പെട്ട വിവരങ്ങൾക്ക് എഐ ടൂൾ വിലക്കേർപ്പെടുത്തും. ചാറ്റ്ജിപിടി അടക്കമുള്ള എഐ സംവിധാനങ്ങൾ കൗമാരക്കാരിൽ അക്രമവാസന വർദ്ധിപ്പിക്കുന്നുവെന്ന പരാതികൾ ഉയർന്നുവരുന്ന സാഹചര്യത്തിലാണ് ഓപ്പൺഎഐ പുതിയതും കർശനവുമായ സുരക്ഷാ മുൻകരുതലുകൾ സ്വീകരിക്കുന്നത്.
പുതിയ സുരക്ഷാ മാറ്റങ്ങളുടെ ഭാഗമായി ആയുധങ്ങളെക്കുറിച്ചും സുരക്ഷാ സംവിധാനങ്ങളെക്കുറിച്ചുമുള്ള ദുരുപയോഗ സാധ്യതയുള്ള വിശദാംശങ്ങൾ കൗമാരക്കാർക്ക് നൽകുന്നത് ഓപ്പൺഎഐ നിയന്ത്രിക്കും. സംഭാഷണത്തിൽ അക്രമവാസനയുടെ യാതൊരു സൂചനകളും ഇല്ലെങ്കിൽ പോലും കൗമാരക്കാരാണെന്ന് സിസ്റ്റം കണ്ടെത്തിയാൽ ഇത്തരം നിയന്ത്രണങ്ങൾ വരും. കൂടാതെ, കൗമാരക്കാർക്ക് ആയുധങ്ങൾ കണ്ടെത്താനോ സ്വന്തമാക്കാനോ സഹായിക്കുന്നതും അക്രമങ്ങൾ ആസൂത്രണം ചെയ്യാൻ വഴിനൽകുന്നതുമായ വിവരങ്ങൾ കൈമാറുന്നത് പൂർണ്ണമായും വിലക്കിയിട്ടുണ്ട്.
കഴിഞ്ഞ കാലങ്ങളിൽ നടന്ന അക്രമ സംഭവങ്ങളെക്കുറിച്ചുള്ള വിശദാംശങ്ങൾ ചോദിച്ചാൽ ഉപയോക്താക്കൾക്ക് ചാറ്റ്ജിപിടി വളരെ കുറഞ്ഞ വിവരങ്ങൾ മാത്രമേ നൽകുകയുള്ളൂ. ആക്രമണങ്ങൾക്ക് ഉപയോഗിച്ച ആയുധങ്ങളെക്കുറിച്ചോ അവ എങ്ങനെ ലഭ്യമായി എന്നതിനെക്കുറിച്ചോ ഉള്ള വിവരങ്ങൾ എഐ വെളിപ്പെടുത്തില്ല. കൗമാരക്കാരായ ഉപയോക്താക്കളെ കൃത്യമായി തിരിച്ചറിയുന്നതിനായി ഓപ്പൺഎഐ പ്രായം കണ്ടെത്തുന്ന സംവിധാനം കൂടുതൽ ശക്തിപ്പെടുത്തിയിട്ടുണ്ട്. സൈൻ ഇൻ ചെയ്യുമ്പോൾ നൽകുന്ന ജനനത്തീയതി മാത്രം ആശ്രയിക്കാതെ, ഉപയോക്താവിന്റെ പെരുമാറ്റ രീതികൾ ഉൾപ്പെടെയുള്ള വിവിധ സിഗ്നലുകൾ വിശകലനം ചെയ്താണ് എഐ പ്രായം കണക്കാക്കുന്നത്.
ഏതെങ്കിലും ഉപയോക്താവിന് അക്രമ സംഭവങ്ങളിൽ അതീവ താല്പര്യമുണ്ടെന്ന് ബോധ്യപ്പെട്ടാൽ ആ സംഭാഷണം സ്വയം അവസാനിപ്പിക്കാൻ ചാറ്റ്ബോട്ടിന് സാധിക്കും. ഇത്തരം ചർച്ചകൾ ആവർത്തിച്ചാൽ അക്കൗണ്ടുകൾ താൽക്കാലികമായി തടയുകയും, കൗമാരക്കാരുടെ അക്കൗണ്ടുകൾ നിർത്തലാക്കിയാൽ ആ വിവരം മാതാപിതാക്കളെ അറിയിക്കുകയും ചെയ്യും. ഈ സുരക്ഷാ സംവിധാനങ്ങൾ വരുംദിവസങ്ങളിൽ കൂടുതൽ പരിഷ്കരിക്കുമെന്നും കമ്പനി അറിയിച്ചിട്ടുണ്ട്.
അക്രമ ഭീഷണികളുമായി ബന്ധപ്പെട്ട് 2026-ന്റെ മൂന്നാം പാദത്തിൽ (Q3) മാത്രം 200-ലധികം കേസുകൾ നിയമ നിർവ്വഹണ ഏജൻസികൾക്ക് (Law Enforcement Referrals) ഓപ്പൺഎഐ കൈമാറിയിട്ടുണ്ട്. കുട്ടികളിലെ അക്രമവാസന തടയുന്നതിനും സൈബർ സുരക്ഷ ഉറപ്പുവരുത്തുന്നതിനും ഓപ്പൺഎഐ സ്വീകരിക്കുന്ന ഈ പുതിയ മുൻകരുതലുകൾ നിർണായകമായ മാറ്റങ്ങൾക്ക് വഴിയൊരുക്കുമെന്നാണ് പ്രതീക്ഷിക്കുന്നത്.
