Google Photos செய்த இனவெறி பிழையும், AI தொழில்நுட்பத்தின் இருண்ட பக்கமும்

2015 ஆம் ஆண்டு, தொழில்நுட்ப உலகம் அதிர்ச்சியடைந்த ஒரு சம்பவம் நடந்தது. கூகுள் போட்டோஸ் செயலி, ஆப்பிரிக்க-அமெரிக்கரான ஜாக்கி அல்சைன் மற்றும் அவரது நண்பரின் புகைப்படங்களை "கொரில்லா" என்று தவறாக முத்திரை குத்தியது. இது வெறும் தொழில்நுட்ப பிழை மட்டுமல்ல, செயற்கை நுண்ணறிவின் (AI) ஆபத்தான பக்கத்தை வெளிச்சம் போட்டுக் காட்டியது.

என்ன நடந்தது?

ஜாக்கி அல்சைன், தனது நண்பருடன் எடுத்த புகைப்படங்களை கூகுள் போட்டோஸில் பதிவேற்றினார். அப்போது, அந்த புகைப்படங்கள் தானாகவே "கொரில்லா" என்று வகைப்படுத்தப்பட்டதை கண்டு அதிர்ச்சியடைந்தார். இது இனவெறியின் உச்சம் என்பதை உணர்ந்த அவர், சமூக ஊடகங்களில் இந்த சம்பவத்தை வெளிப்படுத்தினார்.

தொழில்நுட்பத்தின் தவறு:

கூகுள் போட்டோஸ், புகைப்படங்களை வகைப்படுத்த செய்யறிவு தொழில்நுட்பத்தை பயன்படுத்துகிறது. இந்த தொழில்நுட்பம், லட்சக்கணக்கான புகைப்படங்களை பகுப்பாய்வு செய்து, அதன் அடிப்படையில் கற்றுக்கொள்கிறது. ஆனால், இந்த தொழில்நுட்பத்திற்கு பயிற்சி அளிக்கப்பட்ட தரவுகளில் (training data) குறைபாடு இருந்தது. அதாவது, கருப்பு நிற மக்களின் புகைப்படங்கள் போதுமான அளவில் இல்லை.

இதனால், செய்யறிவு கருப்பு நிற மக்களின் புகைப்படங்களை சரியாக வகைப்படுத்த முடியாமல், கொரில்லாக்களின் புகைப்படங்களுடன் குழப்பிக் கொண்டது. இது வெறும் தொழில்நுட்ப பிழை மட்டுமல்ல, தொழில்நுட்பத்தில் மறைந்திருக்கும் இனவெறி என்பதை வெளிச்சம் போட்டுக் காட்டியது.

கூகுளின் பதில்:

இந்த சம்பவம் பெரும் சர்ச்சையை ஏற்படுத்தியதும், கூகுள் நிறுவனம் மன்னிப்பு கேட்டது. மேலும், இதுபோன்ற தவறுகள் மீண்டும் நடக்காமல் இருக்க, தொழில்நுட்பத்தை மேம்படுத்த நடவடிக்கை எடுத்தது. பயிற்சி தரவுகளில் பல்வேறு இன மக்களின் புகைப்படங்களை சேர்த்தது.

கற்றுக்கொண்ட பாடம்:

இந்த சம்பவம், செய்யறிவு தொழில்நுட்பத்தில் உள்ள ஆபத்துகளை நமக்கு உணர்த்துகிறது. தொழில்நுட்பம் எவ்வளவு முன்னேறினாலும், அதில் மனிதர்களின் தவறுகள் மற்றும் பாரபட்சங்கள் (Bias) பிரதிபலிக்க வாய்ப்புள்ளது. எனவே, தொழில்நுட்பத்தை உருவாக்கும்போது, இனவெறி மற்றும் பாரபட்சம் இல்லாத வகையில் உருவாக்குவது அவசியம்.

இன்றைய நிலை:

கூகுள் நிறுவனம், இனவெறி பிழைகளை சரிசெய்ய பல்வேறு நடவடிக்கைகளை எடுத்துள்ளது. மேலும், "மோங்க் ஸ்கின் டோன் ஸ்கேல்" (Monk Skin Tone Scale) போன்ற கருவிகளை உருவாக்கி, பல்வேறு இன மக்களின் புகைப்படங்களை சரியாக வகைப்படுத்த முயற்சிக்கிறது. "ரியல் டோன்" (Real Tone) போன்ற மேம்பாடுகள் மூலம், கேமராக்கள் கருப்பு நிற மக்களை சரியாக பதிவு செய்ய உதவுகிறது.

இருப்பினும், செய்யறிவில் இனவெறி பிழைகளை முழுமையாக களைவது என்பது ஒரு தொடர்ச்சியான செயல்முறையாகும். தொழில்நுட்ப நிறுவனங்கள், தொடர்ந்து விழிப்புடன் செயல்பட்டு, பாரபட்சம் இல்லாத தொழில்நுட்பத்தை உருவாக்க வேண்டும்.

இந்த சம்பவம் நமக்கு ஒரு முக்கியமான பாடத்தை கற்றுக்கொடுக்கிறது. தொழில்நுட்பம் மனித குலத்திற்கு நன்மை பயக்க வேண்டும், ஆனால் அது பாரபட்சம் இல்லாததாகவும், அனைவரையும் உள்ளடக்கியதாகவும் இருக்க வேண்டும்.