AI-യും ക്രിമിനൽ നിയമവും: ഒരു അൽഗോരിതം ദോഷം വരുത്തിവയ്ക്കുമ്പോൾ ആരാണ് ഉത്തരവാദി?

ഡച്ച്, യൂറോപ്യൻ നിയമങ്ങൾ പ്രകാരം ഒരു അൽഗോരിതം ഭാഗികമായി പോലും ക്രിമിനൽ ഉത്തരവാദിത്തമുള്ളതാകാൻ കഴിയില്ല. ഡച്ച് ക്രിമിനൽ കോഡിന്റെ ആർട്ടിക്കിൾ 51 (വെറ്റ്ബോക്ക് വാൻ സ്ട്രാഫ്രെക്റ്റ്, സീനിയർ) സ്വാഭാവിക വ്യക്തികളെയും നിയമപരമായ വ്യക്തികളെയും മാത്രമേ കുറ്റവാളികളായി അംഗീകരിക്കുന്നുള്ളൂ, അതിനാൽ AI സിസ്റ്റം ചെയ്തതിന് ഏത് വ്യക്തിയോ കമ്പനിയോ ഉത്തരവാദിയാണ് എന്നതാണ് യഥാർത്ഥ ചോദ്യം.

ഫങ്ഷണൽ പെർപെട്രേഷൻ (ഫങ്ഷണൽ ഡാഡർഷാപ്പ്), കോർപ്പറേറ്റ് ക്രിമിനൽ ബാധ്യത എന്നിവയിലൂടെ ഡച്ച് ക്രിമിനൽ നിയമം ഇതിനകം തന്നെ ആ ചോദ്യത്തിന് ഉത്തരം നൽകുന്നു. ആ സിദ്ധാന്തങ്ങൾ AI-ക്ക് എങ്ങനെ ബാധകമാണ്, EU AI ആക്റ്റ് പരിചരണത്തിന്റെ മാനദണ്ഡം എങ്ങനെ സജ്ജമാക്കുന്നു, അൽഗോരിതമിക് ഔട്ട്‌പുട്ട് തെളിവായി എങ്ങനെ ഉപയോഗിക്കുന്നു, ഒരു പ്രതിരോധ, അനുസരണ പരിപാടി എങ്ങനെയിരിക്കും എന്നിവ ഈ ലേഖനം വിശദീകരിക്കുന്നു. സപ്ലൈ-ചെയിൻ ആംഗിളിന്, ഒരു യന്ത്രം ഒരു കുറ്റകൃത്യം ചെയ്യുമ്പോൾ ആരാണ് ഉത്തരവാദി എന്നതിനെക്കുറിച്ചുള്ള ഞങ്ങളുടെ അനുബന്ധ ലേഖനം കാണുക.

ഒരു അൽഗോരിതം എന്തുകൊണ്ട് സംശയിക്കപ്പെടുന്നില്ല?

ഒരു ക്രിമിനൽ കുറ്റകൃത്യത്തിന് കുറ്റവാളിയെ കുറ്റപ്പെടുത്താവുന്ന ഒരു വ്യക്തിയുടെ പെരുമാറ്റം ആവശ്യമാണ്, കൂടാതെ ഒരു AI സിസ്റ്റത്തിന് ഇച്ഛാശക്തിയില്ല, ശിക്ഷിക്കപ്പെടാനും കഴിയില്ല. ആർട്ടിക്കിൾ 51(1) സീനിയർ സ്വാഭാവിക വ്യക്തികൾക്കും നിയമപരമായ വ്യക്തികൾക്കും കുറ്റകൃത്യങ്ങൾ ചെയ്യാൻ കഴിയുമെന്ന് വ്യവസ്ഥ ചെയ്യുന്നു; സോഫ്റ്റ്‌വെയർ രണ്ടും അങ്ങനെയല്ല.

ഒരു മോഡലിന് തടവ്, പിഴ അല്ലെങ്കിൽ സമൂഹ ശിക്ഷ പോലുള്ള ഉപരോധങ്ങൾ ചുമത്താൻ കഴിയില്ല. ഒരു മോഡൽ ഇല്ലാതാക്കുന്നത് അതിന്റെ ഉടമയെ ശിക്ഷിക്കുന്നു, സിസ്റ്റത്തെയല്ല. അതിനാൽ AI മൂലമുണ്ടായ ദോഷത്തിന് ശേഷം ക്രിമിനൽ നിയമം നേടാൻ ആഗ്രഹിക്കുന്നതെല്ലാം അതിന്റെ പിന്നിലുള്ള ആളുകളിലൂടെയും സംഘടനകളിലൂടെയും നേടിയെടുക്കണം.

പകരം ആരാണ് ഉത്തരവാദി?

ഓപ്പറേറ്റർ, കമ്പനി, അതിന്റെ നേതൃത്വം. ശാരീരികമായി നടപ്പിലാക്കാത്ത പെരുമാറ്റത്തിന് ഒരാളെ ഉത്തരവാദിയാക്കുന്നതിന് ഡച്ച് ക്രിമിനൽ നിയമത്തിൽ രണ്ട് സംവിധാനങ്ങളുണ്ട്, രണ്ടും പരിഷ്കരണങ്ങളില്ലാതെ AI-ക്ക് ബാധകമാണ്.

പ്രവർത്തനപരമായ കുറ്റകൃത്യം

ഐജെർഡ്രാദ് വിധിന്യായത്തിൽ സുപ്രീം കോടതി (ഹോഗെ റാഡ്) രൂപപ്പെടുത്തിയ പരിശോധന പ്രകാരം, ഒരു വ്യക്തിക്ക് ഒരു പെരുമാറ്റം നടന്നിട്ടുണ്ടോ എന്നും അത് സ്വീകരിച്ചിട്ടുണ്ടോ എന്നും അല്ലെങ്കിൽ അത്തരം പെരുമാറ്റം പതിവായി സ്വീകരിച്ചിട്ടുണ്ടോ എന്നും തീരുമാനിക്കാൻ അധികാരമുണ്ടെങ്കിൽ അയാൾ പ്രവർത്തനപരമായ കുറ്റവാളിയാണ്.

AI-യെ സംബന്ധിച്ചിടത്തോളം, പവർ ഓഫ് ഡിസ്പോസൽ സാധാരണയായി തെളിയിക്കാൻ എളുപ്പമാണ്: ഓപ്പറേറ്റർക്ക് സിസ്റ്റം കോൺഫിഗർ ചെയ്യാനും വീണ്ടും പരിശീലിപ്പിക്കാനും സ്വിച്ച് ഓഫ് ചെയ്യാനും കഴിയും. സ്വീകാര്യത കേസ് തീരുമാനിക്കുന്നു. പരാജയ മോഡുകളെക്കുറിച്ച് ഓപ്പറേറ്റർക്ക് എന്തറിയാമായിരുന്നു, പരിശോധനയും മുൻ സംഭവങ്ങളും എന്താണ് കാണിച്ചത്, അതിനെക്കുറിച്ച് എന്താണ് ചെയ്തത് എന്നിവയെക്കുറിച്ചാണ് തെളിവുകൾ. അറിഞ്ഞുകൊണ്ട് ഗണ്യമായ അപകടസാധ്യത സ്വീകരിച്ചാൽ മതി; അതാണ് കണ്ടീഷണൽ ഇന്റന്റിനുള്ള ഡച്ച് സ്റ്റാൻഡേർഡ് (voorwaardelijk opzet).

കോർപ്പറേറ്റ് ബാധ്യതയും യഥാർത്ഥ നേതൃത്വവും

ഓപ്പറേറ്റർ ഒരു കമ്പനിയാണെങ്കിൽ, ആർട്ടിക്കിൾ 51 സീനിയർ ബാധകമാണ്. Drijfmest വിധിന്യായത്തിൽ (ECLI:NL:HR:2003:AF7938) സുപ്രീം കോടതി പെരുമാറ്റം നിയമപരമായ ഒരു വ്യക്തിയുടെ മേഖലയിൽ നടന്നിട്ടുണ്ടെങ്കിൽ അത് ആരോപിക്കാമെന്ന് വിധിച്ചു. പെരുമാറ്റം അതിനായി പ്രവർത്തിക്കുന്ന ഒരാൾ നടത്തിയതാണെന്നും, അതിന്റെ സാധാരണ ബിസിനസ്സിന് അനുയോജ്യമാണെന്നും, അതിന് പ്രയോജനം ലഭിച്ചതാണെന്നും, ന്യായമായ ശ്രദ്ധ ചെലുത്തുന്നതിൽ പരാജയപ്പെടുന്നതിലൂടെ ഉൾപ്പെടെ കമ്പനിക്ക് അത് നിയന്ത്രിക്കാനും അംഗീകരിക്കാനും കഴിയുമെന്നുമാണ് സൂചകങ്ങൾ. കമ്പനിയുടെ ജോലിക്കായി വിന്യസിച്ചിരിക്കുന്ന ഒരു AI സിസ്റ്റം ഈ സൂചകങ്ങളിൽ ഭൂരിഭാഗവും പാലിക്കുന്നു.

കുറ്റകൃത്യത്തിന് ഉത്തരവിട്ടവരെയോ യഥാർത്ഥത്തിൽ നേതൃത്വം നൽകിയവരെയോ പ്രോസിക്യൂട്ട് ചെയ്യാൻ സീനിയർ ആർട്ടിക്കിൾ 51(2) അനുവദിക്കുന്നു (feitelijk leidinggeven). 2016 ഏപ്രിൽ 26-ലെ വിധിന്യായത്തിൽ (ECLI:NL:HR:2016:733) സുപ്രീം കോടതി ഒരു ഔപചാരിക നിലപാട് ആവശ്യമില്ല അല്ലെങ്കിൽ പര്യാപ്തമല്ല എന്ന് വിധിച്ചു. പെരുമാറ്റം തടയാൻ വ്യക്തിക്ക് കഴിയുകയും ബാധ്യസ്ഥനാകുകയും, കുറഞ്ഞത് അത് സംഭവിക്കാനുള്ള ഗണ്യമായ സാധ്യത അറിഞ്ഞുകൊണ്ട് അംഗീകരിക്കുകയും ചെയ്യുന്നിടത്ത് ഒരു നിഷ്ക്രിയ പങ്ക് മതിയാകും. ഒരു AI കേസിൽ തെളിവ് വാലിഡേഷൻ റിപ്പോർട്ട് ആർക്കാണ് ലഭിച്ചത്, ആരാണ് വിന്യാസം അംഗീകരിച്ചത്, അറിയപ്പെടുന്ന പിശക് നിരക്ക് ആർക്കാണ് സ്വീകരിച്ചത് എന്നതാണ്.

ഏതൊക്കെ കുറ്റകൃത്യങ്ങൾക്കാണ് കൂടുതൽ സാധ്യത?

ഓട്ടോമേറ്റഡ് സിസ്റ്റങ്ങൾ ഉൾപ്പെടുന്ന പ്രോസിക്യൂഷനുകൾ സാധാരണയായി അശ്രദ്ധയെ അടിസ്ഥാനമാക്കിയുള്ളതാണ്. AI- ഓടിക്കുന്ന വാഹനമോ യന്ത്രമോ മെഡിക്കൽ ഉപകരണമോ മരണത്തിന് കാരണമായാൽ, ആർട്ടിക്കിൾ 307 സീനിയർ പ്രകാരം അശ്രദ്ധ മൂലമുള്ള മരണമാണ് കുറ്റകൃത്യം (രണ്ട് വർഷം വരെ തടവ്); ഗുരുതരമായ പരിക്കിന്, ആർട്ടിക്കിൾ 308 സീനിയർ.

വിവേചനം രണ്ടാമത്തെ വിഭാഗമാണ്. വംശം, മതം, വിശ്വാസം, ലിംഗഭേദം അല്ലെങ്കിൽ ലൈംഗിക ആഭിമുഖ്യം തുടങ്ങിയ കാരണങ്ങളാൽ ഒരു ഓഫീസ്, തൊഴിൽ അല്ലെങ്കിൽ ബിസിനസ്സ് എന്നിവയിൽ ആളുകളോട് വിവേചനം കാണിക്കുന്നത് ആർട്ടിക്കിൾ 429 ക്വാട്ടർ സീനിയർ പ്രകാരം ഒരു കുറ്റകൃത്യമാണ്; ആർട്ടിക്കിൾ 137g സീനിയർ പ്രകാരം വംശത്തിന്റെ അടിസ്ഥാനത്തിൽ മനഃപൂർവ്വം വിവേചനം കാണിക്കുന്നത് ഒരു കുറ്റകൃത്യമാണ്. അതിനാൽ ഒരു സംരക്ഷിത ഗ്രൂപ്പിനെ വ്യവസ്ഥാപിതമായി പ്രതികൂലമായി ബാധിക്കുന്ന ഒരു മാതൃക ഒരു ക്രിമിനൽ കാര്യമായി മാറാം. അത്തരമൊരു കേസ് എങ്ങനെ നടക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള ഞങ്ങളുടെ നെതർലാൻഡ്‌സിലെ ക്രിമിനൽ നടപടിക്രമ ഗൈഡ് വിശദീകരിക്കുന്നു.

AI നിയമം ക്രിമിനൽ ബാധ്യതയെ എങ്ങനെ ബാധിക്കുന്നു?

EU AI ആക്റ്റ് (റെഗുലേഷൻ (EU) 2024/1689) ക്രിമിനൽ കുറ്റകൃത്യങ്ങൾ സൃഷ്ടിക്കുന്നില്ല, പക്ഷേ ശ്രദ്ധാലുവായ ദാതാവോ വിന്യാസകനോ എന്തുചെയ്യണമെന്ന് അത് എഴുതുന്നു. ആ മാനദണ്ഡത്തിൽ നിന്നുള്ള വ്യതിചലനം അശ്രദ്ധയുടെ തെളിവാണ്; അനുസരണം പരിചരണത്തിന്റെ തെളിവാണ്.

ഈ നിയമം സിസ്റ്റങ്ങളെ അപകടസാധ്യത അനുസരിച്ച് തരംതിരിക്കുന്നു. സോഷ്യൽ സ്കോറിംഗ്, മുഖചിത്രങ്ങളുടെ ലക്ഷ്യമില്ലാതെ സ്ക്രാപ്പ് ചെയ്യൽ, ജോലിസ്ഥലത്തോ വിദ്യാഭ്യാസത്തിലോ വികാരങ്ങൾ തിരിച്ചറിയൽ തുടങ്ങിയ ചില രീതികൾ നിരോധിച്ചിരിക്കുന്നു. ഉയർന്ന അപകടസാധ്യതയുള്ള സിസ്റ്റങ്ങളിൽ നിയന്ത്രിത ഉൽപ്പന്നങ്ങളുടെയും നിയമനം, ക്രെഡിറ്റ് സ്കോറിംഗ്, നിയമ നിർവ്വഹണം, കുടിയേറ്റം, നീതി നിർവ്വഹണം തുടങ്ങിയ ഉപയോഗങ്ങളുടെയും സുരക്ഷാ ഘടകങ്ങൾ ഉൾപ്പെടുന്നു. ആളുകളുമായി ഇടപഴകുന്നതോ സിന്തറ്റിക് ഉള്ളടക്കം സൃഷ്ടിക്കുന്നതോ ആയ സിസ്റ്റങ്ങൾ സുതാര്യതാ ചുമതലകൾ വഹിക്കുന്നു.

ദാതാവ് അല്ലെങ്കിൽ വിന്യാസി: നിങ്ങൾക്ക് ഏത് റോളാണ് ഉള്ളത്?

ഒരു ദാതാവ് ഒരു സിസ്റ്റം വികസിപ്പിക്കുകയും സ്വന്തം പേരിൽ അത് വിപണിയിൽ സ്ഥാപിക്കുകയും ചെയ്യുന്നു; ഒരു ഡിപ്ലോയർ സ്വന്തം അധികാരത്തിന് കീഴിലുള്ള ഒരു സിസ്റ്റം ഉപയോഗിക്കുന്നു. ദാതാക്കൾ ഡിസൈൻ ബാധ്യതകൾ വഹിക്കുന്നു, ഡിപ്ലോയർമാർ ശരിയായ ഉപയോഗം, മനുഷ്യ മേൽനോട്ടം, നിരീക്ഷണം എന്നിവയുടെ ചുമതലകൾ വഹിക്കുന്നു.

ഒരു ഉയർന്ന അപകടസാധ്യതയുള്ള സിസ്റ്റത്തിൽ സ്വന്തം പേര് നൽകുകയോ, അതിൽ കാര്യമായ മാറ്റം വരുത്തുകയോ, ഉയർന്ന അപകടസാധ്യതയുള്ളതായി മാറുന്ന തരത്തിൽ അതിന്റെ ഉദ്ദേശ്യം മാറ്റുകയോ ചെയ്താൽ ഒരു ഡിപ്ലോയർ ഒരു ദാതാവായി മാറുന്നു. വാങ്ങിയ ഒരു മോഡൽ ഫൈൻ-ട്യൂൺ ചെയ്ത് പുതിയ ഉദ്ദേശ്യത്തിനായി ഉപയോഗിക്കുന്നത് നിങ്ങളെ ആ പരിധി മറികടക്കാൻ സഹായിക്കും. ഒരു ക്രിമിനൽ അന്വേഷണത്തിൽ ഇതേ ചോദ്യം തന്നെ തിരിച്ചുവരുന്നു: ആർക്കാണ് ഡിസ്പോസൽ ചെയ്യാനുള്ള അധികാരം ഉണ്ടായിരുന്നത്? റോളുകൾ എഴുത്തിലും കരാറിലും രേഖപ്പെടുത്തുക.

എന്താണ് ഇതിനകം ബാധകമായിരിക്കുന്നത്?

വിലക്കുകൾ, AI സാക്ഷരതാ കടമ, പൊതു-ഉദ്ദേശ്യ AI മോഡലുകൾക്കുള്ള നിയമങ്ങൾ, ആർട്ടിക്കിൾ 50 ന്റെ സുതാര്യത ബാധ്യതകൾ എന്നിവ ഇതിനകം ബാധകമാണ്. ഉയർന്ന അപകടസാധ്യതയുള്ള സിസ്റ്റങ്ങൾക്കുള്ള ബാധ്യതകൾ ഡിജിറ്റൽ ഓമ്‌നിബസ് (റെഗുലേഷൻ (EU) 2026/1744) മാറ്റിവച്ചു. നിർദ്ദിഷ്ട AI ബാധ്യതാ നിർദ്ദേശം പിൻവലിച്ചു, അതിനാൽ AI ദോഷത്തിനുള്ള സിവിൽ ബാധ്യത ഡച്ച് ടോർട്ടിന്റെയും ഉൽപ്പന്ന ബാധ്യതാ നിയമത്തിന്റെയും വിഷയമായി തുടരുന്നു.

നിയമപ്രകാരമുള്ള പിഴകൾ ഭരണപരമായവയാണ്: നിരോധിത പ്രവർത്തനങ്ങൾക്ക് €35 ദശലക്ഷം വരെ അല്ലെങ്കിൽ ലോകമെമ്പാടുമുള്ള വാർഷിക വിറ്റുവരവിന്റെ 7% വരെ, മറ്റ് ലംഘനങ്ങൾക്ക് കുറഞ്ഞ പരിധി. നെതർലാൻഡിൽ ഡച്ച് ഡാറ്റ പ്രൊട്ടക്ഷൻ അതോറിറ്റിയും (Autoriteit Persoonsgegevens) ഡച്ച് അതോറിറ്റി ഫോർ ഡിജിറ്റൽ ഇൻഫ്രാസ്ട്രക്ചറും (Rijksinspectie Digitale Infrastructure) മേൽനോട്ടം ഏകോപിപ്പിക്കുന്നു. നിരോധിത AI രീതികൾ , ഉയർന്ന അപകടസാധ്യതയുള്ള AI സംവിധാനങ്ങൾ എന്നിവയെക്കുറിച്ചുള്ള ഞങ്ങളുടെ ലേഖനങ്ങളും EU AI നിയമത്തെക്കുറിച്ചുള്ള ഞങ്ങളുടെ അവലോകനവും കാണുക.

ഒരു പ്രോസിക്യൂട്ടർ ആക്ടിനെ ഒരു ചെക്ക്‌ലിസ്റ്റായി ഉപയോഗിക്കുന്നു. പരിശീലന ഡാറ്റ പരിശോധിക്കാതെയും ആവശ്യമായ മനുഷ്യ മേൽനോട്ടമില്ലാതെയും ഒരു ഡിപ്ലോയർ ഒരു സ്‌ക്രീനിംഗ് ഉപകരണം ഉപയോഗിച്ചാൽ, ലംഘനം രേഖപ്പെടുത്തുകയും എന്തായാലും വിന്യസിക്കാനുള്ള തീരുമാനത്തിൽ നിന്ന് സ്വീകാര്യത ലഭിക്കുകയും ചെയ്യും. നേരെമറിച്ച്, അപകടസാധ്യത വിലയിരുത്തൽ, മൂല്യനിർണ്ണയ ഫലങ്ങൾ, മേൽനോട്ട പ്രോട്ടോക്കോൾ, സംഭവ ലോഗ് എന്നിവ നിർമ്മിക്കാൻ കഴിയുന്ന ഒരു കമ്പനി മുൻകൂട്ടി തന്നെ അതിന്റെ പ്രതിരോധം കെട്ടിപ്പടുത്തിട്ടുണ്ട്.

അൽഗോരിതമിക് ഔട്ട്പുട്ട് എങ്ങനെയാണ് തെളിവായി ഉപയോഗിക്കുന്നത്?

മുഖം തിരിച്ചറിയൽ പൊരുത്തങ്ങൾ, നമ്പർ പ്ലേറ്റ് തിരിച്ചറിയൽ അല്ലെങ്കിൽ വഞ്ചന അപകടസാധ്യത സ്കോറുകൾ പോലുള്ള അൽഗോരിതമിക് ഔട്ട്‌പുട്ട് തെളിവുകളുടെ ഒരു പ്രത്യേക വിഭാഗമല്ല. ക്രിമിനൽ നടപടിക്രമ നിയമത്തിലെ (വെറ്റ്‌ബോക്ക് വാൻ സ്ട്രാഫ്‌വോർഡറിംഗ്, എസ്‌വി) ആർട്ടിക്കിൾ 339 പ്രകാരം തെളിവുകൾ നിശ്ചിത വിഭാഗങ്ങളിലേക്ക് പരിമിതപ്പെടുത്തിയിരിക്കുന്നു, അതിനാൽ ഔദ്യോഗിക പോലീസ് റിപ്പോർട്ട് പോലുള്ള രേഖാമൂലമുള്ള രേഖകളിലൂടെയോ വിദഗ്ദ്ധ പ്രസ്താവനയിലൂടെയോ ഔട്ട്‌പുട്ട് കോടതിയിൽ എത്തുന്നു.

പ്രതിരോധം മൂന്ന് ചോദ്യങ്ങൾ പരിശോധിക്കുന്നു. രീതി സാധൂകരിക്കപ്പെട്ടതാണോ, ആരാണ്? ഏതൊക്കെ സാഹചര്യങ്ങളിലാണ് ഇത് പരാജയപ്പെടുന്നത്, അവ നിലവിലുണ്ടായിരുന്നോ? പരിശീലന ഡാറ്റ, പിശക് നിരക്കുകൾ, കോൺഫിഗറേഷൻ എന്നിവയെക്കുറിച്ചുള്ള വിവരങ്ങളിലേക്കുള്ള ആക്‌സസ് ഉപയോഗിച്ച് പ്രതിരോധത്തിന് അത് പരിശോധിക്കാൻ കഴിയുമോ? പിശക് നിരക്കോ സ്ഥിരീകരണ സാധ്യതയോ ഇല്ലാതെ അവതരിപ്പിക്കുന്ന ഒരു പൊരുത്തം ദുർബലമായ തെളിവാണ്, അതിനെ വെല്ലുവിളിക്കുന്നത് നിയമാനുസൃതമായ ഒരു പ്രതിരോധമാണ്.

കോടതിക്ക് സ്വന്തം മുൻകൈയിലോ പ്രതിഭാഗത്തിന്റെ അഭ്യർത്ഥനയിലോ ഒരു വിദഗ്ദ്ധനെ നിയമിക്കാൻ കഴിയും. ഒരു AI രീതി ഏതെങ്കിലും അംഗീകൃത വൈദഗ്ധ്യ മേഖലയ്ക്ക് പുറത്താണെങ്കിൽ, അത് തന്നെ വിശ്വാസ്യതയെക്കുറിച്ചുള്ള ഒരു വാദമാണ്. പുതിയ ക്രിമിനൽ നടപടിക്രമ കോഡ് സ്വീകരിച്ചിട്ടുണ്ട്, 2029 ൽ പ്രാബല്യത്തിൽ വരാൻ പദ്ധതിയിട്ടിട്ടുണ്ട്; അതുവരെ നിലവിലുള്ള Sv ബാധകമാണ്.

ഡാറ്റാ സംരക്ഷണ നിയമം എന്താണ് കൂട്ടിച്ചേർക്കുന്നത്?

ആർട്ടിക്കിൾ 22 GDPR ഒരു വ്യക്തിക്ക് അവരെ സാരമായി ബാധിക്കുന്ന ഓട്ടോമേറ്റഡ് പ്രോസസ്സിംഗിനെ മാത്രം അടിസ്ഥാനമാക്കിയുള്ള ഒരു തീരുമാനത്തിന് വിധേയമാകാതിരിക്കാനുള്ള അവകാശം നൽകുന്നു. ക്രിമിനൽ എൻഫോഴ്‌സ്‌മെന്റിൽ, പോലീസ് ഡാറ്റ ആക്റ്റ് (വെറ്റ് പൊളിറ്റിഗെഗെവൻസ്) പോലീസിനായി സമാന്തര EU നിയമങ്ങൾ നടപ്പിലാക്കുന്നു. ഒരു സംശയിക്കപ്പെടുന്നയാൾക്ക് ഇത് ഒരു സിസ്റ്റത്തെക്കുറിച്ചുള്ള വിവരങ്ങളിലേക്കുള്ള ഒരു വഴിയാകാം; ഒരു കമ്പനിയെ സംബന്ധിച്ചിടത്തോളം, നിയമപരമായ അടിസ്ഥാനമില്ലാതെ ഓട്ടോമേറ്റഡ് തീരുമാനമെടുക്കൽ ഒരു പ്രത്യേക ലംഘനമാണ്, അത് ഏതെങ്കിലും ക്രിമിനൽ ആരോപണത്തോടൊപ്പം വായിക്കപ്പെടും.

AI ഉൾപ്പെട്ട ഒരു കേസിനെ നിങ്ങൾ എങ്ങനെയാണ് പ്രതിരോധിക്കുന്നത്?

ഈ സംവിധാനം എന്തുചെയ്യുമെന്ന് ആർക്കും അറിയാൻ കഴിയില്ല എന്ന "ബ്ലാക്ക് ബോക്സ്" പ്രതിരോധം, കാണുന്നതിനേക്കാൾ ദുർബലമാണ്. കൃത്യമായ ഔട്ട്‌പുട്ട് മുൻകൂട്ടി കണ്ടോ എന്നല്ല, പ്രതിക്ക് ആ പെരുമാറ്റം നടന്നോ എന്നും അപകടസാധ്യത സ്വീകരിച്ചോ എന്നും തീരുമാനിക്കാൻ കഴിയുമോ എന്ന് ഡച്ച് ക്രിമിനൽ നിയമം ചോദിക്കുന്നു; ഗുരുതരമായ ദോഷം വരുത്തുന്ന വിശദീകരിക്കാനാകാത്ത ഒരു സംവിധാനം വിന്യസിക്കുന്നത് തന്നെ ആ അപകടസാധ്യത സ്വീകരിക്കുന്നതിന് തുല്യമായിരിക്കാം.

മൂന്ന് പ്രതിരോധങ്ങൾ മികച്ച രീതിയിൽ പ്രവർത്തിക്കുന്നു, എല്ലാം തെളിവാണ്:

• യഥാർത്ഥ നിയന്ത്രണമില്ല: സിസ്റ്റം ഒരു ഫിനിഷ്ഡ് പ്രൊഡക്റ്റ് ആയി വാങ്ങി, കോൺഫിഗർ ചെയ്ത് പരിപാലിച്ചത് ദാതാവാണ്, പ്രതിക്ക് വിവരങ്ങളോ ഇടപെടാനുള്ള കഴിവോ ഉണ്ടായിരുന്നില്ല. ഇത് ശ്രദ്ധ ദാതാവിലേക്ക് മാറ്റുകയും കരാറിനെയും റിപ്പോർട്ട് ചെയ്തതിനെയും ആശ്രയിച്ചിരിക്കുന്നു.
• കൃത്യമായ പരിചരണം: രേഖപ്പെടുത്തപ്പെട്ട അപകടസാധ്യത വിലയിരുത്തൽ, വിന്യാസത്തിന് മുമ്പുള്ള സാധൂകരണം, അസാധുവാക്കാൻ അധികാരമുള്ള ഒരാളുടെ മനുഷ്യ മേൽനോട്ടം, സംഭവങ്ങളിൽ നിരീക്ഷണം, ഉടനടി നടപടി എന്നിവ.
• കാരണം: പരിശീലന ഡാറ്റ മുതൽ മാതൃക, മനുഷ്യന്റെ തീരുമാനം, ഫലം വരെയുള്ള ഒരു ശൃംഖലയിൽ, പ്രതിയുടെ പെരുമാറ്റമാണ് ഫലത്തിന് കാരണമായതെന്ന് പ്രോസിക്യൂഷൻ തെളിയിക്കണം.

ലോഗുകൾ, മോഡൽ പതിപ്പുകൾ, കോൺഫിഗറേഷനുകൾ, സംഭവ റിപ്പോർട്ടുകൾ എന്നിവ പതിവായി തിരുത്തിയെഴുതപ്പെടുന്നതിനാൽ അവ നേരത്തെ തന്നെ സംരക്ഷിക്കുക. ആർട്ടിക്കിൾ 29 Sv പ്രകാരം നിശബ്ദത പാലിക്കാനുള്ള അവകാശം ഉൾപ്പെടെയുള്ള സാധാരണ സുരക്ഷാ മുൻകരുതലുകൾ പൂർണ്ണമായും ബാധകമാണ്; ക്രിമിനൽ കാര്യങ്ങളിൽ നിശബ്ദത പാലിക്കാനുള്ള അവകാശത്തെക്കുറിച്ചുള്ള ഞങ്ങളുടെ ലേഖനം കാണുക. ഓട്ടോമേറ്റഡ് ഉപകരണങ്ങൾ ഉപയോഗിച്ചുള്ള തട്ടിപ്പിന്, നെതർലാൻഡ്‌സിലെ വഞ്ചനയ്ക്കും സാമ്പത്തിക കുറ്റകൃത്യങ്ങൾക്കുമുള്ള ഞങ്ങളുടെ ഗൈഡ് കാണുക.

ചൈൽഡ്കെയർ ആനുകൂല്യങ്ങളുടെ കാര്യം എന്താണ് കാണിക്കുന്നത്?

ചൈൽഡ്കെയർ ആനുകൂല്യങ്ങളുടെ കാര്യം (toeslagenaffaire) കാണിക്കുന്നത്, യാന്ത്രികമായ അപകടസാധ്യത തിരഞ്ഞെടുക്കലും ചോദ്യം ചെയ്യപ്പെടാത്ത ഉൽപാദനവും ആയിരക്കണക്കിന് കുടുംബങ്ങളെ എങ്ങനെ ദോഷകരമായി ബാധിക്കുമെന്ന്, ആരെയും ക്രിമിനൽ ഉത്തരവാദിത്തത്തിൽ ഉൾപ്പെടുത്താതെ തന്നെ. ഡച്ച് ടാക്സ് അഡ്മിനിസ്ട്രേഷൻ (Belastingdienst) ദേശീയത ഒരു പങ്കു വഹിക്കുന്ന അപകടസാധ്യത വർഗ്ഗീകരണം ഉപയോഗിച്ചു; പ്രോസസ്സിംഗ് നിയമവിരുദ്ധമാണെന്ന് ഡച്ച് ഡാറ്റ പ്രൊട്ടക്ഷൻ അതോറിറ്റി കണ്ടെത്തി പിഴ ചുമത്തി, 2021 ജനുവരിയിൽ സർക്കാർ രാജിവച്ചു.

മൂന്ന് പരാജയങ്ങൾ ഏതൊരു സ്ഥാപനത്തിനും നിയമപരമായ വെളിപ്പെടുത്തലായി മാറുന്നു: തീരുമാനങ്ങൾ വിശദീകരിക്കാൻ കഴിഞ്ഞില്ല, അതിനാൽ വെല്ലുവിളിക്കപ്പെടാൻ കഴിഞ്ഞില്ല, മനുഷ്യ മേൽനോട്ടം കടലാസിൽ മാത്രമായിരുന്നു, കൂടാതെ ഒരു പതാക പ്രായോഗികമായി തെളിവുകളുടെ ഭാരം മാറ്റിമറിച്ചു. ഉത്തരവാദിത്തത്തിന്റെ ആ വ്യാപനമാണ് പ്രവർത്തനപരമായ കുറ്റകൃത്യവും ആർട്ടിക്കിൾ 51 സീനിയറും പ്രതിരോധിക്കാൻ രൂപകൽപ്പന ചെയ്തിരിക്കുന്നത്, കൂടാതെ AI നിയമം തിരിച്ചറിയാവുന്ന മനുഷ്യ മേൽനോട്ടവും ഡോക്യുമെന്റേഷനും ആവശ്യപ്പെടുന്നത് എന്തുകൊണ്ട്.

AI വിന്യസിക്കുന്ന ഒരു കമ്പനി എന്ന നിലയിൽ നിങ്ങൾ എന്താണ് പരിശോധിക്കേണ്ടത്?

AI ആക്ടിന് കീഴിലുള്ള മിക്ക അനുസരണ പ്രവർത്തനങ്ങളും ഒരു ക്രിമിനൽ അന്വേഷണത്തിൽ നിങ്ങൾക്ക് ആവശ്യമായ തെളിവുകൾ നൽകുന്നു.

• വാങ്ങിയ സോഫ്റ്റ്‌വെയറിനുള്ളിലെ സവിശേഷതകൾ ഉൾപ്പെടെ, ഉപയോഗത്തിലുള്ള എല്ലാ AI സിസ്റ്റങ്ങളും നിങ്ങൾ പട്ടികപ്പെടുത്തിയിട്ടുണ്ടോ, കൂടാതെ ഓരോന്നും AI ആക്ടിന് കീഴിൽ തരംതിരിച്ചിട്ടുണ്ടോ?
• ഓരോ സിസ്റ്റത്തിനും ഉത്തരവാദിത്തമുള്ള, വിന്യാസം അംഗീകരിക്കാനും അത് ഓഫ് ചെയ്യാനും അധികാരമുള്ള ഒരു നാമനിർദ്ദേശം ചെയ്യപ്പെട്ട വ്യക്തിയാണോ?
• മനുഷ്യന്റെ മേൽനോട്ടം യഥാർത്ഥമാണോ: അവലോകനം ചെയ്യുന്നയാൾക്ക് ഔട്ട്‌പുട്ട് മനസ്സിലാക്കാനും നിരസിക്കാനും കഴിയുമോ, ഓവർറൈഡുകൾ ലോഗ് ചെയ്‌തിട്ടുണ്ടോ?
• പരിശീലന ഡാറ്റ, പരിശോധന, അറിയപ്പെടുന്ന പിശക് നിരക്കുകൾ, അവയെക്കുറിച്ചുള്ള തീരുമാനങ്ങൾ എന്നിവ നിങ്ങൾ രേഖപ്പെടുത്തിയിട്ടുണ്ടോ?
• ആവശ്യമുള്ളിടത്ത് ഡാറ്റാ സംരക്ഷണമോ മൗലികാവകാശ ആഘാത വിലയിരുത്തലോ നടത്തിയിട്ടുണ്ടോ?
• നിങ്ങളുടെ കരാറുകൾ ദാതാവിന്റെ സാങ്കേതിക രേഖകളും സംഭവ അറിയിപ്പുകളും നൽകുന്നുണ്ടോ?

AI സിസ്റ്റങ്ങളുടെ ദാതാവ് എന്ന നിലയിൽ നിങ്ങൾ എന്താണ് പരിശോധിക്കേണ്ടത്?

ഒരു ദാതാവ് എന്ന നിലയിൽ നിങ്ങൾ ഡിസൈൻ ബാധ്യതകൾ വഹിക്കുന്നു, കൂടാതെ വിന്യാസക്കാർ ശൃംഖല മുകളിലേക്ക് ചൂണ്ടുമ്പോൾ നിങ്ങൾ ഒന്നാമതായിരിക്കുകയും ചെയ്യുന്നു.

• ഉപയോഗത്തിനുള്ള നിർദ്ദേശങ്ങളിൽ നിങ്ങളുടെ ഉദ്ദേശിച്ച ഉദ്ദേശ്യം കൃത്യമായി നിർവചിച്ചിട്ടുണ്ടോ?
• ഡാറ്റാ ഉറവിടങ്ങൾ, ബയസ് ടെസ്റ്റിംഗ്, ഡിസൈൻ തിരഞ്ഞെടുപ്പുകൾ എന്നിവയെക്കുറിച്ചുള്ള സാങ്കേതിക ഡോക്യുമെന്റേഷൻ നിങ്ങളുടെ പക്കലുണ്ടോ?
• ഡിപ്ലോയർമാർക്ക് അറിയാവുന്ന പരിമിതികളും പരാജയ സാഹചര്യങ്ങളും നിങ്ങൾ രേഖാമൂലം വെളിപ്പെടുത്തിയിട്ടുണ്ടോ?
• സംഭവം റിപ്പോർട്ട് ചെയ്യുന്നതിനും കാര്യമായ മാറ്റങ്ങളെക്കുറിച്ച് ഡിപ്ലോയർമാരെ അറിയിക്കുന്നതിനും നിങ്ങൾക്ക് ഒരു നടപടിക്രമമുണ്ടോ?
• ഏത് കക്ഷിക്കാണ് സിസ്റ്റം പരിഷ്കരിക്കാനോ വീണ്ടും പരിശീലിപ്പിക്കാനോ കഴിയുക എന്ന് നിങ്ങളുടെ കരാർ വ്യക്തമാക്കുന്നുണ്ടോ?

ഒരു കുറ്റകൃത്യം ചെയ്യാനുള്ള ഉപകരണമായി AI ഉപയോഗിച്ചാൽ എന്ത് സംഭവിക്കും?

അപ്പോൾ കുറ്റകൃത്യം എന്നത് കുറ്റകൃത്യം മാത്രമാണ്; സാങ്കേതികവിദ്യ നിയമപരമായ വിശകലനത്തെ മാറ്റില്ല. ഒരു സംവിധായകന്റെ ക്ലോൺ ചെയ്ത ശബ്ദമോ സിന്തറ്റിക് വീഡിയോയോ ഉപയോഗിച്ചുള്ള തട്ടിപ്പ് ആർട്ടിക്കിൾ 326 സീനിയർ പ്രകാരം വഞ്ചനയാണ് (ഒപ്ലിച്ചിംഗ്); ​​സൃഷ്ടിച്ച തെറ്റായ രേഖ ആർട്ടിക്കിൾ 225 സീനിയർ പ്രകാരം വ്യാജമാണ്; അവരുടെ തിരിച്ചറിയൽ ഡാറ്റയുള്ള ഒരാളായി നടിക്കുന്നത് ആർട്ടിക്കിൾ 231 ബി സീനിയർ പ്രകാരം ഐഡന്റിറ്റി തട്ടിപ്പാണ്.

2024 ജൂലൈ 1 മുതൽ ലൈംഗിക കുറ്റകൃത്യ നിയമം (വെറ്റ് സെക്സൂൾ മിസ്ഡ്രിജ്വെൻ) പ്രാബല്യത്തിൽ വന്നതിനാൽ, ഒരു വ്യക്തിയുടെ ലൈംഗിക ചിത്രം അവർക്ക് ദോഷം വരുത്തുമെന്ന് അറിഞ്ഞുകൊണ്ട് പരസ്യമാക്കുന്നത് ആർട്ടിക്കിൾ 254ba സീനിയർ പ്രകാരം ശിക്ഷാർഹമാണ്; സൃഷ്ടിച്ച ചിത്രം റെക്കോർഡ് ചെയ്തിട്ടില്ലാത്തതിനാൽ അത് ഒഴിവാക്കപ്പെടുന്നില്ല. ഓട്ടോമേറ്റഡ് അക്കൗണ്ടുകൾ വഴിയുള്ള വ്യവസ്ഥാപിത ഉപദ്രവം ആർട്ടിക്കിൾ 285b സീനിയർ പ്രകാരം പിന്തുടരൽ ആകാം, ഇത് പരാതിയിൽ മാത്രമേ കേസെടുക്കൂ. AI പ്രധാനമായും സ്കെയിലും തെളിവിന്റെ ബുദ്ധിമുട്ടും മാറ്റുന്നു: ഓഡിയോയുടെയും വീഡിയോയുടെയും ആധികാരികത ഇപ്പോൾ തെളിയിക്കേണ്ടതുണ്ട്. നെതർലൻഡ്‌സിലെ ഡിജിറ്റൽ വഞ്ചന തെളിയിക്കുന്നതിനെക്കുറിച്ചുള്ള ഞങ്ങളുടെ ലേഖനം കാണുക.

AI-യും ക്രിമിനൽ ബാധ്യതയും ഉള്ളതിനാൽ ഞങ്ങൾ നിങ്ങൾക്കായി എന്തുചെയ്യാൻ കഴിയും?

ഈ കേസുകളിൽ ഞങ്ങളുടെ ക്രിമിനൽ നിയമ, ഐടി നിയമ ടീമുകൾ ഒരുമിച്ച് പ്രവർത്തിക്കുന്നു.

• ആർട്ടിക്കിൾ 51 സീനിയർ പ്രകാരം നിങ്ങളുടെ എക്സ്പോഷറും നിങ്ങൾ ഉപയോഗിക്കുന്ന ഓരോ AI സിസ്റ്റത്തിനുമുള്ള പ്രവർത്തനപരമായ കുറ്റകൃത്യവും ഞങ്ങൾ വിലയിരുത്തുന്നു.
• നിങ്ങളുടെ AI ഗവേണൻസ്, മേൽനോട്ട പ്രോട്ടോക്കോൾ, ഡോക്യുമെന്റേഷൻ എന്നിവ ഞങ്ങൾ അവലോകനം ചെയ്യുന്നു, അതുവഴി അവ പരിചരണത്തിന്റെ തെളിവായി വർത്തിക്കും.
• ദാതാവും വിന്യാസിയും തമ്മിലുള്ള ഉത്തരവാദിത്തങ്ങളുടെ വിഹിതം ഞങ്ങൾ ഡ്രാഫ്റ്റ് ചെയ്യുകയും ചർച്ച ചെയ്യുകയും ചെയ്യുന്നു.
• ക്രിമിനൽ നടപടികളിൽ ഞങ്ങൾ അൽഗോരിതം തെളിവുകളെ വെല്ലുവിളിക്കുകയും മൂല്യനിർണ്ണയ ഡാറ്റയിലേക്ക് ആക്‌സസ് അഭ്യർത്ഥിക്കുകയും ചെയ്യുന്നു.
• പബ്ലിക് പ്രോസിക്യൂഷൻ സർവീസും റെഗുലേറ്റർമാരും നടത്തുന്ന അന്വേഷണങ്ങളിൽ ഞങ്ങൾ കമ്പനികളെയും ഡയറക്ടർമാരെയും സഹായിക്കുന്നു.

ചുരുക്കം

• ഒരു അൽഗോരിതം കുറ്റവാളിയാകാൻ കഴിയില്ല; ആർട്ടിക്കിൾ 51 സീനിയർ സ്വാഭാവികവും നിയമപരവുമായ വ്യക്തികളെ മാത്രമേ ഉൾക്കൊള്ളുന്നുള്ളൂ.
• ഓപ്പറേറ്റർമാർ പ്രവർത്തനപരമായ കുറ്റകൃത്യത്തിലൂടെയും, കമ്പനികൾ ഡ്രിജ്‌മെസ്റ്റ് മാനദണ്ഡങ്ങളിലൂടെയും, ഡയറക്ടർമാർ യഥാർത്ഥ നേതൃത്വം വഴിയും ബാധ്യസ്ഥരാണ്.
• പരിചരണത്തിന്റെ മാനദണ്ഡം AI ആക്റ്റ് നിശ്ചയിക്കുന്നു: ഒരു ലംഘനം അശ്രദ്ധയുടെ തെളിവാണ്, അനുസരണം പരിചരണത്തിന്റെ തെളിവാണ്.
• പോലീസ് റിപ്പോർട്ടിലൂടെയോ വിദഗ്ദ്ധ പ്രസ്താവനയിലൂടെയോ അൽഗോരിതമിക് ഔട്ട്‌പുട്ട് ഒരു ക്രിമിനൽ കേസിൽ പ്രവേശിക്കുന്നു, കൂടാതെ മൂല്യനിർണ്ണയത്തിന്റെയും പിശക് നിരക്കുകളുടെയും കാര്യത്തിൽ അത് വെല്ലുവിളിക്കപ്പെടാം.

പതിവു ചോദ്യങ്ങൾ