എന്താണ് ഡീപ്ഫേക്കുകൾ; അവയെ എങ്ങനെ കണ്ടെത്താനാകും?

എന്താണ് ഡീപ്ഫേക്ക്?

ബരാക് ഒബാമ ഡൊണാൾഡ് ട്രംപിനെ സമ്പൂർണ ദിപ്ഷിറ്റ് എന്ന് വിളിക്കുന്നത് നിങ്ങൾ കണ്ടിട്ടുണ്ടോ, അല്ലെങ്കിൽ കോടിക്കണക്കിന് ആളുകളുടെ മോഷ്ടിച്ച ഡാറ്റയുടെ പൂർണ്ണ നിയന്ത്രണം ഉണ്ടെന്ന് മാർക്ക് സക്കർബർഗ് വീമ്പിളക്കുന്നത് നിങ്ങൾ കണ്ടിട്ടുണ്ടോ, അല്ലെങ്കിൽ ഗെയിം ഓഫ് ത്രോൺസിന്റെ ദയനീയമായ അവസാനത്തിന് ജോൺ സ്നോയുടെ ചലിക്കുന്ന ക്ഷമാപണം കണ്ടിട്ടുണ്ടോ? അതെ എന്ന് ഉത്തരം നൽകുക, നിങ്ങൾ ഒരു ഡീപ്ഫേക്ക് കണ്ടു എന്ന് പറയാം

ഫോട്ടോഷോപ്പിംഗിനുള്ള 21-ാം നൂറ്റാണ്ടിന്റെ ഉത്തരം

ഡീപ്‌ഫേക്കുകൾ വ്യാജ സംഭവങ്ങളുടെ ചിത്രങ്ങൾ നിർമ്മിക്കാൻ ഡീപ് ലേണിംഗ് എന്ന കൃത്രിമ ബുദ്ധിയുടെ ഒരു രൂപമാണ് ഉപയോഗിക്കുന്നത്, അതിനാൽ ഡീപ്പ്ഫേക്ക് എന്ന് പേര്. ഒരു രാഷ്ട്രീയക്കാരന്റെ വായിൽ പുതിയ വാക്കുകൾ ഇടാനോ നിങ്ങളുടെ പ്രിയപ്പെട്ട സിനിമയിൽ അഭിനയിക്കാനോ അല്ലെങ്കിൽ ഒരു പ്രോ പോലെ നൃത്തം ചെയ്യാനോ ആഗ്രഹിക്കുന്നുണ്ടോ ? അപ്പോൾ ഒരു ഡീപ്ഫേക്ക് ഉണ്ടാക്കാൻ സമയമായി.

എന്തിനുവേണ്ടിയാണ്?

പലതും അശ്ലീലമാണ്. AI സ്ഥാപനമായ Deeptrace 2019 സെപ്റ്റംബറിൽ ഓൺലൈനിൽ 15,000 ഡീപ്ഫേക്ക് വീഡിയോകൾ കണ്ടെത്തി, ഇത് ഒമ്പത് മാസത്തിനിടെ ഇരട്ടിയായി. അമ്പരപ്പിക്കുന്ന 96% അശ്ലീലവും 99% സ്ത്രീ സെലിബ്രിറ്റികളിൽ നിന്ന് അശ്ലീല താരങ്ങളുടെ മുഖങ്ങളും മാപ്പ് ചെയ്തു. ഒരുപിടി ഫോട്ടോകൾ ഉപയോഗിച്ച് ഡീപ്ഫേക്കുകൾ നിർമ്മിക്കാൻ പുതിയ സാങ്കേതിക വിദ്യകൾ അവിദഗ്‌ദ്ധരെ അനുവദിക്കുന്നതിനാൽ, പ്രതികാര അശ്ലീലത്തിന് ഇന്ധനം നൽകുന്നതിനായി വ്യാജ വീഡിയോകൾ സെലിബ്രിറ്റി ലോകത്തിനപ്പുറത്തേക്ക് വ്യാപിക്കാൻ സാധ്യതയുണ്ട്.

ബോസ്റ്റൺ യൂണിവേഴ്‌സിറ്റിയിലെ നിയമ പ്രൊഫസറായ ഡാനിയേൽ സിട്രോൺ പറയുന്നതുപോലെ: “ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യ സ്ത്രീകൾക്കെതിരെ ആയുധമാക്കപ്പെടുന്നു.” അശ്ലീലത്തിനപ്പുറം കബളിപ്പിക്കലും ആക്ഷേപഹാസ്യവും കുസൃതികളും ധാരാളം.

ഇത് വീഡിയോകളുടെ കാര്യമാണോ?

ഇല്ല. ഡീപ്ഫേക്ക് സാങ്കേതികവിദ്യയ്ക്ക് ആദ്യം മുതൽ ബോധ്യപ്പെടുത്തുന്ന എന്നാൽ തികച്ചും സാങ്കൽപ്പിക ഫോട്ടോകൾ സൃഷ്ടിക്കാൻ കഴിയും. ലിങ്ക്ഡ്‌ഇന്നിലും ട്വിറ്ററിലും പ്രൊഫൈൽ ഉണ്ടായിരുന്ന “മൈസി കിൻസ്‌ലി” എന്ന നിലവിലില്ലാത്ത ബ്ലൂംബെർഗ് ജേണലിസ്റ്റ് ഒരു ഡീപ്ഫേക്ക് ആയിരിക്കാം. മറ്റൊരു ലിങ്ക്ഡ്ഇൻ വ്യാജൻ, “കാറ്റി ജോൺസ്”, സെന്റർ ഫോർ സ്ട്രാറ്റജിക് ആൻഡ് ഇന്റർനാഷണൽ സ്റ്റഡീസിൽ ജോലി ചെയ്യുന്നതായി അവകാശപ്പെട്ടു, എന്നാൽ ഒരു വിദേശ ചാരപ്രവർത്തനത്തിനായി സൃഷ്ടിച്ച ഒരു ഡീപ്ഫേക്ക് ആണെന്ന് കരുതപ്പെടുന്നു.

പൊതു വ്യക്തികളുടെ ” വോയ്‌സ് സ്‌കിന്നുകൾ ” അല്ലെങ്കിൽ ” വോയ്‌സ് ക്ലോണുകൾ ” സൃഷ്‌ടിക്കാൻ ഓഡിയോയും ഡീപ്ഫേക്ക് ചെയ്യാം . കഴിഞ്ഞ മാർച്ചിൽ, ജർമ്മൻ സിഇഒയുടെ ശബ്ദം അനുകരിക്കുന്ന ഒരു തട്ടിപ്പുകാരൻ ഫോണിൽ വിളിച്ചതിനെത്തുടർന്ന് ഒരു ജർമ്മൻ എനർജി കമ്പനിയുടെ യുകെ അനുബന്ധ സ്ഥാപനത്തിന്റെ മേധാവി ഏകദേശം 200,000 പൗണ്ട് ഹംഗേറിയൻ ബാങ്ക് അക്കൗണ്ടിലേക്ക് നൽകി . കമ്പനിയുടെ ഇൻഷുറൻസ് കമ്പനിയുടെ ശബ്ദം ഒരു ഡീപ്ഫേക്ക് ആണെന്ന് വിശ്വസിക്കുന്നു, എന്നാൽ തെളിവുകൾ വ്യക്തമല്ല. സമാനമായ തട്ടിപ്പുകൾ റെക്കോർഡ് ചെയ്‌ത വാട്ട്‌സ്ആപ്പ് വോയ്‌സ് സന്ദേശങ്ങൾ ഉപയോഗിച്ചതായി റിപ്പോർട്ടുണ്ട്.

ഒരു ഫെയ്‌സ് സ്വാപ്പ് വീഡിയോ നിർമ്മിക്കുന്നതിന് കുറച്ച് ഘട്ടങ്ങൾ ആവശ്യമാണ്. ആദ്യം, എൻകോഡർ എന്ന് വിളിക്കുന്ന AI അൽഗോരിതം വഴി നിങ്ങൾ രണ്ട് ആളുകളുടെ ആയിരക്കണക്കിന് ഫേസ് ഷോട്ടുകൾ പ്രവർത്തിപ്പിക്കുന്നു. എൻകോഡർ രണ്ട് മുഖങ്ങൾക്കിടയിലുള്ള സമാനതകൾ കണ്ടെത്തുകയും പഠിക്കുകയും ചെയ്യുന്നു, ഒപ്പം അവയെ അവയുടെ പങ്കിട്ട പൊതുവായ സവിശേഷതകളിലേക്ക് ചുരുക്കുകയും പ്രക്രിയയിലെ ചിത്രങ്ങൾ കംപ്രസ്സുചെയ്യുകയും ചെയ്യുന്നു.

കംപ്രസ് ചെയ്ത ചിത്രങ്ങളിൽ നിന്ന് മുഖങ്ങൾ വീണ്ടെടുക്കാൻ ഡീകോഡർ എന്ന് വിളിക്കുന്ന രണ്ടാമത്തെ AI അൽഗോരിതം പഠിപ്പിക്കുന്നു. മുഖങ്ങൾ വ്യത്യസ്തമായതിനാൽ, ആദ്യ വ്യക്തിയുടെ മുഖം വീണ്ടെടുക്കാൻ നിങ്ങൾ ഒരു ഡീകോഡറും രണ്ടാമത്തെ വ്യക്തിയുടെ മുഖം വീണ്ടെടുക്കാൻ മറ്റൊരു ഡീകോഡറും പരിശീലിപ്പിക്കുന്നു. ഫേസ് സ്വാപ്പ് നടത്താൻ, നിങ്ങൾ എൻകോഡ് ചെയ്ത ചിത്രങ്ങൾ “തെറ്റായ” ഡീകോഡറിലേക്ക് ഫീഡ് ചെയ്യുക.

ഉദാഹരണത്തിന്, A വ്യക്തിയുടെ മുഖത്തിന്റെ ഒരു കംപ്രസ് ചെയ്ത ചിത്രം B എന്ന വ്യക്തിയിൽ പരിശീലിപ്പിച്ച ഡീകോഡറിലേക്ക് ഫീഡ് ചെയ്യുന്നു. തുടർന്ന് ഡീകോഡർ B വ്യക്തിയുടെ മുഖം A യുടെ ഭാവങ്ങളും ഓറിയന്റേഷനും ഉപയോഗിച്ച് പുനർനിർമ്മിക്കുന്നു.

ഡീപ്‌ഫേക്കുകൾ നിർമ്മിക്കുന്നതിനുള്ള മറ്റൊരു മാർഗ്ഗം, ജനറേറ്റീവ് അഡ്‌വേഴ്സേറിയൽ നെറ്റ്‌വർക്ക് അല്ലെങ്കിൽ ഗാൻ എന്ന് വിളിക്കപ്പെടുന്നവ ഉപയോഗിക്കുന്നു. ഒരു ഗാൻ രണ്ട് ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് അൽഗോരിതങ്ങളെ പരസ്പരം എതിർക്കുന്നു. ജനറേറ്റർ എന്നറിയപ്പെടുന്ന ആദ്യ അൽഗോരിതം ക്രമരഹിതമായ ശബ്ദം നൽകുകയും അതിനെ ഒരു ചിത്രമാക്കി മാറ്റുകയും ചെയ്യുന്നു.

ഈ സിന്തറ്റിക് ഇമേജ് പിന്നീട് വിവേചനക്കാരൻ എന്നറിയപ്പെടുന്ന രണ്ടാമത്തെ അൽഗോരിതത്തിലേക്ക് നൽകപ്പെടുന്ന സെലിബ്രിറ്റികളുടെ യഥാർത്ഥ ചിത്രങ്ങളുടെ ഒരു സ്ട്രീമിലേക്ക് ചേർക്കുന്നു. ആദ്യം, സിന്തറ്റിക് ചിത്രങ്ങൾ മുഖങ്ങൾ പോലെയൊന്നും കാണില്ല. എന്നാൽ പ്രകടനത്തെക്കുറിച്ചുള്ള ഫീഡ്‌ബാക്ക് ഉപയോഗിച്ച് എണ്ണമറ്റ തവണ പ്രക്രിയ ആവർത്തിക്കുക, കൂടാതെ ഡിസ്ക്രിമിനേറ്ററും ജനറേറ്ററും മെച്ചപ്പെടുത്തുന്നു. മതിയായ സൈക്കിളുകളും ഫീഡ്‌ബാക്കും നൽകിയാൽ, ജനറേറ്റർ പൂർണ്ണമായും നിലവിലില്ലാത്ത സെലിബ്രിറ്റികളുടെ തികച്ചും യാഥാർത്ഥ്യബോധമുള്ള മുഖങ്ങൾ സൃഷ്ടിക്കാൻ തുടങ്ങും.

ആരാണ് ഡീപ്ഫേക്കുകൾ ഉണ്ടാക്കുന്നത്?

അക്കാദമിക്, വ്യാവസായിക ഗവേഷകർ മുതൽ അമേച്വർ പ്രേമികൾ, വിഷ്വൽ ഇഫക്റ്റ് സ്റ്റുഡിയോകൾ, പോൺ നിർമ്മാതാക്കൾ വരെ എല്ലാവരും. തീവ്രവാദ ഗ്രൂപ്പുകളെ അപകീർത്തിപ്പെടുത്തുന്നതിനും തടസ്സപ്പെടുത്തുന്നതിനും അല്ലെങ്കിൽ ടാർഗെറ്റുചെയ്‌ത വ്യക്തികളുമായി സമ്പർക്കം പുലർത്തുന്നതിനുമുള്ള അവരുടെ ഓൺലൈൻ തന്ത്രങ്ങളുടെ ഭാഗമായി സർക്കാരുകളും സാങ്കേതികവിദ്യയിൽ മുഴുകിയേക്കാം .

നിങ്ങൾക്ക് എന്ത് സാങ്കേതികവിദ്യയാണ് വേണ്ടത്?

ഒരു സാധാരണ കമ്പ്യൂട്ടറിൽ നല്ല ഡീപ്ഫേക്ക് ഉണ്ടാക്കുക പ്രയാസമാണ്. മിക്കതും ഉയർന്ന നിലവാരമുള്ള ഡെസ്‌ക്‌ടോപ്പുകളിൽ ശക്തമായ ഗ്രാഫിക്‌സ് കാർഡുകൾ ഉപയോഗിച്ചോ അല്ലെങ്കിൽ ക്ലൗഡിലെ കമ്പ്യൂട്ടിംഗ് പവർ ഉപയോഗിച്ചോ സൃഷ്‌ടിക്കപ്പെട്ടവയാണ്. ഇത് പ്രോസസ്സിംഗ് സമയം ദിവസങ്ങളിൽ നിന്നും ആഴ്ചകളിൽ നിന്നും മണിക്കൂറുകളായി കുറയ്ക്കുന്നു. എന്നാൽ ഫ്ലിക്കറും മറ്റ് കാഴ്ച വൈകല്യങ്ങളും കുറയ്ക്കുന്നതിന് പൂർത്തിയാക്കിയ വീഡിയോകൾ സ്പർശിക്കാൻ വൈദഗ്ധ്യം ആവശ്യമാണ്.
ഡീപ്ഫേക്കുകൾ നിർമ്മിക്കാൻ ആളുകളെ സഹായിക്കുന്നതിന് ഇപ്പോൾ ധാരാളം ഉപകരണങ്ങൾ ലഭ്യമാണ്. നിരവധി കമ്പനികൾ അവ നിങ്ങൾക്കായി നിർമ്മിക്കുകയും ക്ലൗഡിൽ എല്ലാ പ്രോസസ്സിംഗും ചെയ്യുകയും ചെയ്യും. ഒരു മൊബൈൽ ഫോൺ ആപ്പ് പോലും ഉണ്ട്, Zao , അത് സിസ്റ്റം പരിശീലിപ്പിച്ച ടിവി, സിനിമ കഥാപാത്രങ്ങളുടെ ലിസ്റ്റിലേക്ക് അവരുടെ മുഖം ചേർക്കാൻ ഉപയോക്താക്കളെ അനുവദിക്കുന്നു.

ഒരു ഡീപ്ഫേക്ക് നിങ്ങൾ എങ്ങനെ കണ്ടെത്തും?

സാങ്കേതികവിദ്യ മെച്ചപ്പെടുമ്പോൾ ഇത് കൂടുതൽ ബുദ്ധിമുട്ടാണ്. 2018-ൽ അമേരിക്കൻ ഗവേഷകർ ഡീപ്ഫേക്ക് മുഖങ്ങൾ സാധാരണയായി മിന്നിമറയില്ലെന്ന് കണ്ടെത്തി. അതിൽ അതിശയിക്കാനില്ല: ഭൂരിഭാഗം ചിത്രങ്ങളും ആളുകളെ അവരുടെ കണ്ണുകൾ തുറന്ന് കാണിക്കുന്നു, അതിനാൽ അൽഗരിതങ്ങൾ ഒരിക്കലും മിന്നിമറയുന്നതിനെക്കുറിച്ച് പഠിക്കുന്നില്ല.

ഡിറ്റക്ഷൻ പ്രശ്നത്തിനുള്ള ഒരു വെള്ളി ബുള്ളറ്റ് പോലെയാണ് ആദ്യം തോന്നിയത്. എന്നാൽ ഗവേഷണം പ്രസിദ്ധീകരിച്ച ഉടൻ തന്നെ, ഡീപ്ഫേക്കുകൾ മിന്നിമറയുന്നതോടെ പ്രത്യക്ഷപ്പെട്ടു. അതായത്, ഒരു ബലഹീനത വെളിപ്പെട്ടാലുടൻ അത് പരിഹരിക്കപ്പെടും.

ഗുണനിലവാരമില്ലാത്ത ഡീപ്ഫേക്കുകൾ കണ്ടെത്താൻ എളുപ്പമാണ്. ചുണ്ടുകളുടെ സമന്വയം മോശമാകാം, അല്ലെങ്കിൽ ചർമ്മത്തിന്റെ നിറം പാടുള്ളതായിരിക്കാം. ട്രാൻസ്പോസ് ചെയ്ത മുഖങ്ങളുടെ അരികുകളിൽ മിന്നൽ ഉണ്ടാകാം. മുടി പോലുള്ള സൂക്ഷ്മമായ വിശദാംശങ്ങൾ, ഡീപ്ഫേക്കുകൾക്ക് നന്നായി റെൻഡർ ചെയ്യാൻ പ്രയാസമാണ്, പ്രത്യേകിച്ച് അരികിൽ ഇഴകൾ ദൃശ്യമാകുന്നിടത്ത്. മോശമായി റെൻഡർ ചെയ്‌ത ആഭരണങ്ങളും പല്ലുകളും, ഐറിസിലെ പൊരുത്തമില്ലാത്ത പ്രകാശവും പ്രതിഫലനങ്ങളും പോലെയുള്ള വിചിത്രമായ ലൈറ്റിംഗ് ഇഫക്റ്റുകൾ തിരിച്ചറിയാം.

ഗവൺമെന്റുകളും സർവ്വകലാശാലകളും സാങ്കേതിക സ്ഥാപനങ്ങളും എല്ലാം ഡീപ്ഫേക്കുകൾ കണ്ടെത്തുന്നതിനുള്ള ഗവേഷണത്തിന് ധനസഹായം നൽകുന്നു. കഴിഞ്ഞ മാസം, മൈക്രോസോഫ്റ്റ്, ഫേസ്ബുക്ക്, ആമസോൺ എന്നിവയുടെ പിന്തുണയോടെ ആദ്യത്തെ ഡീപ്ഫേക്ക് ഡിറ്റക്ഷൻ ചലഞ്ച് ആരംഭിച്ചു. ഡീപ്ഫേക്ക് ഡിറ്റക്ഷൻ ഗെയിമിൽ ആധിപത്യത്തിനായി മത്സരിക്കുന്ന ലോകമെമ്പാടുമുള്ള ഗവേഷണ ടീമുകൾ ഇതിൽ ഉൾപ്പെടും.

എന്താണ് പരിഹാരം?

വിരോധാഭാസമെന്നു പറയട്ടെ, AI ഇതിനുള്ള ഉത്തരം ആയിരിക്കാം. കൃത്രിമബുദ്ധി ഇതിനകം തന്നെ വ്യാജ വീഡിയോകൾ കണ്ടെത്താൻ സഹായിക്കുന്നു, എന്നാൽ നിലവിലുള്ള പല കണ്ടെത്തൽ സംവിധാനങ്ങൾക്കും ഗുരുതരമായ ഒരു ദൗർബല്യമുണ്ട്: അവ സെലിബ്രിറ്റികൾക്ക് മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നു, കാരണം അവർക്ക് മണിക്കൂറുകളോളം സൗജന്യമായി ലഭ്യമായ ഫൂട്ടേജുകൾ പരിശീലിപ്പിക്കാൻ കഴിയും.

ടെക് സ്ഥാപനങ്ങൾ ഇപ്പോൾ വ്യാജങ്ങൾ പ്രത്യക്ഷപ്പെടുമ്പോഴെല്ലാം അവയെ ഫ്ലാഗ് ചെയ്യാൻ ലക്ഷ്യമിട്ടുള്ള ഡിറ്റക്ഷൻ സിസ്റ്റങ്ങളിൽ പ്രവർത്തിക്കുന്നു. മറ്റൊരു തന്ത്രം മാധ്യമങ്ങളുടെ പ്രഭവകേന്ദ്രത്തിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുന്നു. ഡിജിറ്റൽ വാട്ടർമാർക്കുകൾ ഫൂൾപ്രൂഫ് അല്ല, എന്നാൽ ഒരു ബ്ലോക്ക്ചെയിൻ ഓൺലൈൻ ലെഡ്ജർ സിസ്റ്റത്തിന് വീഡിയോകളുടെയും ചിത്രങ്ങളുടെയും ഓഡിയോയുടെയും ടേംപർ പ്രൂഫ് റെക്കോർഡ് കൈവശം വയ്ക്കാൻ കഴിയും, അതിനാൽ അവയുടെ ഉത്ഭവവും ഏതെങ്കിലും കൃത്രിമത്വവും എല്ലായ്പ്പോഴും പരിശോധിക്കാനാകും.

ഡീപ്ഫേക്കുകൾ എല്ലായ്പ്പോഴും ദോഷകരമാണോ?

ഒരിക്കലുമില്ല. പലതും രസകരവും ചിലത് സഹായകരവുമാണ്. വോയ്‌സ് ക്ലോണിംഗ് ഡീപ്ഫേക്കുകൾ രോഗബാധിതരായി ആളുകളുടെ ശബ്ദം നഷ്‌ടപ്പെടുമ്പോൾ പുനഃസ്ഥാപിക്കാൻ കഴിയും. ഡീപ്ഫേക്ക് വീഡിയോകൾക്ക് ഗാലറികളെയും മ്യൂസിയങ്ങളെയും സജീവമാക്കാൻ കഴിയും. ഫ്ലോറിഡയിലെ, ഡാലി മ്യൂസിയത്തിൽ തന്റെ കലയെ പരിചയപ്പെടുത്തുകയും സന്ദർശകരുമായി സെൽഫി എടുക്കുകയും ചെയ്യുന്ന സർറിയലിസ്റ്റ് ചിത്രകാരന്റെ ഡീപ്ഫേക്ക് ഉണ്ട് .

വിനോദ വ്യവസായത്തിന്, വിദേശ ഭാഷാ സിനിമകളുടെ ഡബ്ബിംഗ് മെച്ചപ്പെടുത്താനും കൂടുതൽ വിവാദപരമായി മരിച്ച അഭിനേതാക്കളെ പുനരുജ്ജീവിപ്പിക്കാനും സാങ്കേതികവിദ്യ ഉപയോഗിക്കാം.