யுவல் நோவா ஹராரியின் ஆபத்தான பார்வை

கணினி நுண்ணியல் AI இன் ஆபத்துகள் பற்றிய அவரது எச்சரிக்கை ஆபத்தானது, ஆனால் அவற்றைத் தவிர்க்க இது நமக்கு உதவுகிறதா?

 “சுமார் 14 பில்லியன் ஆண்டுகளுக்கு முன்பு, பொருள், ஆற்றல், நேரம் மற்றும் இடம் தோன்றியது.” இஸ்ரேலிய வரலாற்றாசிரியர் யுவல் நோவா ஹராரியின் Sapiens: A Brief History of Humankind (2011) தொடங்குகிறது, மேலும் 21 ஆம் நூற்றாண்டின் மிகவும் வியக்க வைக்கும் கல்விப் பணிகளில் ஒன்றாக இது தொடங்கியது. Sapiens பல்வேறு மொழிகளில் 25 மில்லியனுக்கும் அதிகமான பிரதிகள் விற்றுள்ளன. அதன்பிறகு, ஹராரி பல புத்தகங்களை வெளியிட்டுள்ளார், அவை மில்லியன் கணக்கில் விற்பனையாகியுள்ளன .

 ஹராரி, தலாய் லாமாவுக்குப் பிறகு, இணையத்தில் மிகக் குறைவான உலகப் புகழ்பெற்ற நபராக இருக்கலாம். அவர் ஸ்மார்ட்ஃபோனைப் பயன்படுத்துவதில்லை (“நான் எனது நேரத்தையும் கவனத்தையும் சேமிக்க முயற்சிக்கிறேன்”). தினமும் இரண்டு மணி நேரம் தியானம் செய்கிறார். மேலும் அவர் ஒவ்வொரு ஆண்டும் ஒரு மாதம் அல்லது அதற்கும் மேலாக பின்வாங்குவதில் செலவிடுகிறார், அமைதியாக உட்கார்ந்துகொள்வதற்கான திகைப்பூட்டும் பேச்சுக் கட்டணம் என்று ஒருவர் மட்டுமே ஊகிக்க முடியும்.

ஹராரியின் துறவற ஒளி அவருக்கு சிலிக்கான் பள்ளத்தாக்கில் ஒரு சக்திவாய்ந்த கவர்ச்சியை அளிக்கிறது,

ஏறக்குறைய பேராசிரியரின் தெளிவின்மையின் பகடியாகத் தொடங்கியவருக்கு இது ஒரு ஆச்சரியமான பாத்திரம்.

ஹராரியின் பாதையை மாற்றியது தியானத்தை எடுத்துக்கொள்வது மற்றும் ஒரு அறிமுக உலக-வரலாற்று பாடத்தை கற்பிக்க ஒப்புக்கொண்டது, பொதுவாக இளநிலை பேராசிரியர்களுக்கு வழங்கப்படும் சூடான-உருளைக்கிழங்கு பணி. (நான் என் டிபார்ட்மெண்டில் சேர்ந்ததும் அதே பணியை என்னிடம் ஒப்படைத்தேன்.) காவிய அளவு அவருக்கு ஏற்றது. சேபியன்களுக்கு அடிப்படையாக அமைந்த ஜெருசலேமின் ஹீப்ரு பல்கலைக்கழகத்தில் அவரது விரிவுரைகள், ஹோமோ சேபியன்கள் தங்கள் போட்டியாளர்களை எவ்வாறு சிறப்பாகச் செய்து கிரகத்தை வளைத்தார்கள் என்ற கண்கவர் கதையைச் சொன்னார்.

ஹராரி பரந்த ஆர்வத்துடன் கூடிய ஒரு திறமையான புனைவர் Sythesizer. உடல் வலிமை சமூக அந்தஸ்துடன் ஒத்துப்போகிறதா? புல்வெளிகளை நாம் ஏன் மிகவும் மகிழ்ச்சியாகக் காண்கிறோம்? பெரும்பாலான அறிஞர்கள் இதுபோன்ற கேள்விகளை எழுப்புவதற்கு கூட நிபுணத்துவம் பெற்றவர்கள். இடைக்கால ஐரோப்பாவில், “அறிவு = வேதங்கள் x தர்க்கம்” என்று அவர் விளக்குகிறார், அதே சமயம் அறிவியல் புரட்சிக்குப் பிறகு, “அறிவு = அனுபவ தரவு x கணிதம்.”

சிலிக்கான் பள்ளத்தாக்கின் சமீபத்திய கண்டுபிடிப்புகள் ஹராரி வகையின் விண்மீன்-மூளை அறிவாற்றலை அழைக்கின்றன. உங்களைச் சுற்றியுள்ள இடையூறுகள் எவ்வளவு பெரியதாக இருக்கும் என்று நீங்கள் உணருகிறீர்களோ, அந்த அளவுக்குப் பொருத்தமாக ஒப்புமைகளைப் பெறுவீர்கள்.

இத்தகைய தொழில்நுட்ப பாய்ச்சல்கள் நன்றாக இருந்ததா? ஹராரிக்கு சந்தேகம். மனிதர்கள் “நாம் பெருமைப்படக்கூடிய அளவு சிறிதளவு உற்பத்தி செய்திருக்கிறார்கள்” என்று அவர் சேபியன்ஸில் புகார் செய்தார். அவரது அடுத்த புத்தகங்கள், ஹோமோ டியூஸ்: நாளைய சுருக்கமான வரலாறு (2015) மற்றும் 21 ஆம் நூற்றாண்டுக்கான 21 பாடங்கள் (2018), அச்சத்துடன் எதிர்காலத்தைப் பார்த்தன. இப்போது ஹராரி, காலத்தின் தொடக்கத்திலிருந்து மற்றொரு கண்ணோட்டத்தை எழுதியுள்ளார், நெக்ஸஸ்: கற்காலம் முதல் AI வரையிலான தகவல் நெட்வொர்க்குகளின் சுருக்கமான வரலாறு. இது அவரது மிக மோசமான வேலை. அதில், ஹராரி மேலும் தகவல்கள் தானாகவே உண்மை அல்லது ஞானத்திற்கு வழிவகுக்கும் என்ற கருத்தை நிராகரிக்கிறார். ஆனால் இது செயற்கை நுண்ணறிவுக்கு வழிவகுத்தது, அதன் வருகை ஹராரி அபோகாலிப்டியாக விவரிக்கிறது. “நாம் அதை தவறாகக் கையாண்டால், AI ஆனது பூமியில் உள்ள மனித ஆதிக்கத்தை மட்டுமல்ல, நனவின் ஒளியையே அணைத்து, பிரபஞ்சத்தை முழு இருளாக மாற்றிவிடும்” என்று அவர் எச்சரிக்கிறார்.

AI க்கு முன்னுதாரணமாகத் தேடுபவர்கள் பெரும்பாலும் நகரக்கூடிய வகை அச்சு இயந்திரத்தைக் கொண்டு வருகிறார்கள், இது ஐரோப்பாவை புத்தகங்களால் மூழ்கடித்து அறிவியல் புரட்சிக்கு இட்டுச் சென்றது. ஹராரி இந்தக் கதையில் கண்களை உருட்டுகிறார். அறிவியலுக்கு அச்சிடுதல் பயன்படுத்தப்படும் என்பதற்கு எதுவும் உத்தரவாதம் இல்லை, அவர் குறிப்பிடுகிறார்.

தகவல் எப்போதும் இந்த அழிவு ஆற்றலைக் கொண்டுள்ளது, ஹராரி நம்புகிறார். இன்னும் இப்போது வரை, அவர் வாதிடுகிறார், அத்தகைய நரக அத்தியாயங்கள் கூட அவை மட்டுமே: அத்தியாயங்கள். கிராமர் எரியூட்டப்பட்டதைப் போன்ற டெமாகோஜிக் பித்துகள் பிரகாசமாக எரிந்து சுடர்விடும். மக்களை எப்போதும் வெறித்தனமான நிலையில் வைத்திருப்பது கடினம். அவர்களின் உணர்ச்சித் தூண்டுதல்கள் மாறுகின்றன, மேலும் ஒருமுறை அண்டை வீட்டாரைத் தாக்க அவர்களைத் தூண்டும் ஒரு கட்டுரை, ஒரு மாதம் அல்லது ஒரு வருடம் கழித்து, சிரிப்பாகத் தோன்றும்.

மேல்-கீழ் பயங்கரவாதத்தால் ஆளப்படும் மாநிலங்களுக்கும் ஆயுள் பிரச்சனை உள்ளது, ஹராரி விளக்குகிறார். அவர்கள் எப்படியாவது ஒவ்வொரு கடிதத்தையும் இடைமறித்து, ஒவ்வொரு வீட்டிலும் தகவல் தருபவர்களை விதைக்க முடிந்தாலும், உள்வரும் அனைத்து அறிக்கைகளையும் அவர்கள் புத்திசாலித்தனமாக பகுப்பாய்வு செய்ய வேண்டும். இதை நிர்வகிப்பதற்கு எந்த ஆட்சியும் நெருங்கி வரவில்லை, மேலும் 20 ஆம் நூற்றாண்டின் மாநிலங்களில் மொத்தக் கட்டுப்பாட்டிற்கு மிக அருகில் இருந்ததால், தகவலை நிர்வகிப்பதில் தொடர்ந்த சிக்கல்கள் அடிப்படை நிர்வாகத்தை கடினமாக்கியது.

அது எப்படியிருந்தாலும், காகித யுகத்தில்.. ஒரு டிஜிட்டல் சர்வாதிகாரம் அவரது தேடல் வரலாற்றை சரிபார்க்க முடியும். அரசாங்கம் தங்கள் மூளையில் ஒரு சிப்பைப் பொருத்திவிடும் என்று சிலர் கவலைப்படுகிறார்கள், ஆனால் அவர்கள் “இந்த சதி கோட்பாடுகளைப் படிக்கும் ஸ்மார்ட்போன்களைப் பற்றி கவலைப்பட வேண்டும்” என்று ஹராரி எழுதுகிறார். ஃபோன்கள் ஏற்கனவே நம் கண் அசைவுகளைக் கண்காணிக்கலாம், நம் பேச்சைப் பதிவு செய்யலாம் மற்றும் பெயர் தெரியாத அந்நியர்களுக்கு எங்கள் தனிப்பட்ட தகவல்தொடர்புகளை வழங்கலாம். அவர்கள் கேட்கும் சாதனங்கள், வியக்கத்தக்க வகையில், மக்கள் படுக்கைக்கு அருகில் செல்ல தயாராக உள்ளனர்.

ஹராரியின் மிகப்பெரிய கவலை என்னவென்றால், AI அரட்டையில் நுழையும் போது என்ன நடக்கும் என்பதுதான். தற்போது, தரவு பகுப்பாய்வின் சிரமங்களால், எப்பொழுதும் இருந்ததைப் போலவே, மிகப்பெரிய தரவு சேகரிப்பு ஈடுசெய்யப்பட்டுள்ளது. முக அங்கீகார மென்பொருளின் ஆலோசனையின் பேரில் அப்பாவி கறுப்பின மக்களை காவல்துறையினர் கைது செய்வதைப் பற்றிய அறிக்கைகளை நாங்கள் வழக்கமாகக் கொண்டுள்ளோம் (வெள்ளையர்களின் படங்கள் நிறைந்த தரவுத்தளங்களில் பயிற்சியளிக்கப்பட்ட அல்காரிதம்கள், பலர், வெள்ளையல்லாத நபர்களை வேறுபடுத்திப் பார்க்கப் போராடுகிறார்கள்). இத்தகைய கதைகள் அல்காரிதம்களை நம்பியிருப்பதால் ஏற்படும் அபாயங்களை விளக்குகின்றன, ஆனால் அவை AI வேலை செய்ய முடியாத அளவுக்கு தடுமாற்றமாக இருப்பதாகக் கூறி தவறான ஆறுதல் அளிக்கலாம். அது நீண்ட காலத்திற்கு உண்மையாக இருக்காது.

ஒவ்வொரு முகத்தையும் அடையாளம் கண்டு, ஒவ்வொரு மனநிலையையும் அறிந்த, அந்தத் தகவலை ஆயுதமாக்கிய ஒரு நிறுவனத்திற்கு எதிராக என்ன பாதுகாப்பு இருக்க முடியும்? போட்கள் அந்த உள்ளடக்கத்தை தாங்களாகவே உருவாக்கி, தனிப்பயனாக்கி, ஒவ்வொரு பயனரின் டோபமைன் ஏற்பிகளை நிரப்பும் வகையில் தொடர்ந்து சரிசெய்யும் போது என்ன நடக்கும் என்று கற்பனை செய்து பாருங்கள், ஹராரி எழுதுகிறார். algorithm உருவாக்கும் heroin rush உள்ளடக்கத்துடன் ஒப்பிடும்போது,. AI கட்டளையைக் கைப்பற்றினால், அது நம் அனைவரையும் மனநோயாளிகளாக மாற்றும்.

இது நடக்கலாம். அது, எனினும்? ஹராரி AI ஐ இறுதியில் புரிந்துகொள்ள முடியாததாகக் கருதுகிறார் – அது அவருடைய கவலை. 2016 ஆம் ஆண்டில் ஒரு கணினி தென் கொரிய கோ சாம்பியனை தோற்கடித்தபோது, அது செய்த ஒரு நகர்வு மிகவும் வினோதமாக இருந்தது, அது தவறு போல் தோன்றியது. இந்த நடவடிக்கை வேலை செய்தது, ஆனால் அல்காரிதம் புரோகிராமர்களால் அதன் காரணத்தை விளக்க முடியவில்லை. AI மாதிரிகளை எப்படி உருவாக்குவது என்று எங்களுக்குத் தெரிந்தாலும், அவற்றைப் புரிந்துகொள்வதில்லை. “Alien உளவுத்துறையை” நாங்கள் தைரியமாக வரவழைத்துள்ளோம், அது என்ன செய்யும் என்று தெரியவில்லை என்று ஹராரி எழுதுகிறார்.

கடந்த ஆண்டு, ஹராரி ஒரு திறந்த கடிதத்தில் கையெழுத்திட்டார் “சமூகம் மற்றும் மனிதகுலத்திற்கு ஏற்படும் ஆழமான ஆபத்துகள்” எவராலும் புரிந்துகொள்ள முடியாத, கணிக்கவோ அல்லது நம்பகத்தன்மையுடன் கட்டுப்படுத்தவோ முடியாத சக்திவாய்ந்த டிஜிட்டல் மனதைக் கட்டவிழ்த்துவிடுவது. மேம்பட்ட AI அமைப்புகளைப் பயிற்றுவிப்பதில் குறைந்தபட்சம் ஆறு மாதங்கள் இடைநிறுத்தப்பட வேண்டும், தேவைப்பட்டால் சட்டத்தால் ஆதரிக்கப்படும்.

ஒருவேளை, ஆனால் இழிந்தவர்கள் கடிதத்தை சுய சேவையாகக் கண்டார்கள். செயற்கை நுண்ணறிவு, வரையறுக்கப்பட்ட பயன்பாட்டுடன் தரமற்ற தயாரிப்பாக இருப்பதைக் காட்டிலும், ஒரு சகாப்த வளர்ச்சி என்று வலியுறுத்துவதன் மூலம் இது பெரும் பரபரப்பை ஏற்படுத்தியது. இது தொழில்நுட்பத் தலைவர்களின் ஓபன்ஹைமர் பாணி தார்மீக தீவிரத்தை வெளிப்படுத்தியது. இருப்பினும், அவர்களின் ஆராய்ச்சி உண்மையில் நிறுத்தப்பட வாய்ப்பில்லை என்பதால், அவர்களுக்கு எதுவும் செலவாகவில்லை .

ஹராரி சிலிக்கான் பள்ளத்தாக்கு அரசியலுக்கு மேலே அமர்ந்திருக்கிறார். அவரது உயர்ந்த வாய்ப்பு அவரை வெகுதூரம் பார்க்க அனுமதிக்கும் என்பது நம்பிக்கை. ஆனால் மரங்களுக்காகக் காடுகளை மிகக் குறுகலாகக் கவனத்தில் கொள்ளாமல் விட்டுவிடுவது எப்படி சாத்தியமோ, அதே போல் சூரிய மண்டலத்திற்காக காடுகளை மிக அதிகமாக பெரிதாக்குவதும் சாத்தியமாகும். எதிர்கால தொழில்நுட்பங்கள் ஜனநாயகத்தை (அல்லது மனித நேயத்தை) எவ்வாறு அழிக்கக்கூடும் என்பதற்கு ஹராரி ஒரு நல்ல வழிகாட்டியாக இருந்தாலும், அந்தத் தொழில்நுட்பங்களை முன்வைக்கும் இன்றைய பொருளாதாரத்தில் அவர் குறைவாகவே உதவுகிறார்.

தகவல் யுகத்தின் பொருளாதாரம் துரோகமானது. அவர்கள் உள்ளடக்கத்தை நுகர்வதற்கு மலிவானதாக ஆக்கியுள்ளனர், ஆனால் உற்பத்தி செய்வதற்கு குறைவான லாபம் கிடைக்கும். இதழியல் மீதான இலவச உள்ளடக்கம் மற்றும் இலக்கு-விளம்பர மாதிரிகளின் விளைவைக் கவனியுங்கள்: 2005 முதல், அமெரிக்கா அதன் செய்தித்தாள்களில் கிட்டத்தட்ட மூன்றில் ஒரு பகுதியையும், அதன் செய்தித்தாள் வேலைகளில் மூன்றில் இரண்டு பங்கு வேலைகளையும் இழந்துவிட்டது, கிட்டத்தட்ட 7 சதவீத செய்தித்தாள்கள் ஊழியர்கள் இப்போது நியூயார்க் டைம்ஸ் என்ற ஒற்றை நிறுவனத்தில் பணிபுரிகின்றனர். தகவல் புரட்சியின் உச்சத்திலும் மையத்திலும் இருக்கும் 21-ம் நூற்றாண்டு அமெரிக்காவில், நாங்கள் “செய்தி பாலைவனங்கள்” பற்றி பேசுகிறோம்.

AI இதை அதிகரிக்க அச்சுறுத்துகிறது. சிறந்த Chatbotகளுடன், இயங்குதளங்கள் வெளிப்புற உள்ளடக்கத்துடன் இணைக்க வேண்டிய அவசியமில்லை, ஏனெனில் அவை செயற்கையாக இனப்பெருக்கம் செய்யும். பயனர்களை வெளிப்புற தளங்களுக்கு அனுப்பும் google தேடலுக்குப் பதிலாக, Chatbotவினவல் அந்தத் தளங்களைச் சுருக்கி, பயனர்களை google சுவர் தோட்டத்திற்குள் வைத்திருக்கும். தனிப்பட்ட முறையில் உருவாக்கப்பட்ட உள்ளடக்கம், உண்மையானதாக ஒலிக்கும் ஆனால் இல்லாத குரல்களால் வாசிக்கப்படும், தயாரிப்பு இடம். மற்ற சிக்கல்களுடன், இது எழுத்தாளர்கள் மற்றும் வெளியீட்டாளர்களை— உண்மையில் யோசனைகளை உருவாக்குபவர்களை—வாசகர்களிடமிருந்து துண்டித்துவிடும் . எங்கள் அறிவுசார் நிறுவனங்கள் வாடிவிடும், மேலும் இணையமானது “ஐந்து மாபெரும் இணையதளங்கள், ஒவ்வொன்றும் மற்ற நான்கின் ஸ்கிரீன் ஷாட்களால் நிரப்பப்படும்” ஒரு மூடிய வளையமாக மாறும்.

நமது அறிவுசார் நிறுவனங்களின் பற்றி  ஹராரிக்கு சிறிதும் சொல்ல முடியாது. ஒரு வகையில், அவர் போக்கின் அறிகுறி. இரத்தமும் சதையுமாக இருந்தாலும், ஹராரி சிலிக்கான் பள்ளத்தாக்கின் சிறந்த சாட்போட் எப்படி இருக்க வேண்டும் என்பதாகும். அவர் நூலகங்களைச் சோதனை செய்கிறார், வடிவங்களைக் கண்டறிகிறார், மேலும் அனைத்து வரலாற்றையும் புல்லட் புள்ளிகளாகக் கொதிக்க வைக்கிறார். (நவீனத்துவத்தை, ” ஒற்றை சொற்றொடரில் சுருக்கமாகக் கூறலாம் : அதிகாரத்திற்கு ஈடாக மனிதர்கள் அர்த்தத்தை விட்டுக்கொடுக்க ஒப்புக்கொள்கிறார்கள்” என்று அவர் எழுதுகிறார்.) அவர் 21 ஆம் நூற்றாண்டுக்கான 21 பாடங்கள், ஒரு பட்டியலின் வடிவத்தில் ஒரு முழு புத்தகத்தையும் எழுதியுள்ளார். கவனத்தை ஈர்க்கும் வாசகர்களுக்கு, அவர் clipஇல் வேடிக்கையான காரணிகளை வழங்குகிறார்.

இவை அனைத்தும் ஹராரியின் பரந்த வாசிப்பில் இருந்து பெறப்பட்டது. இருப்பினும், ஒரு சாட்போட்டைப் போல, அவர் தனது ஆதாரங்களுடன் ஒரு அரை-எதிர்ப்பு உறவைக் கொண்டுள்ளார், நான் அவற்றைப் படிப்பேன், எனவே நீங்கள் அணுகுமுறை தேவையில்லை. அவர் மற்ற எழுத்தாளர்களை உள்ளடக்கத்திற்காக சுரங்கப்படுத்துகிறார். நெக்ஸஸில், ஹராரி தனது வணிக உறவுகளுக்கு அப்பாற்பட்ட அறிவுசார் தாக்கங்களை ஒப்புக்கொள்ளவில்லை.

அவரது துறவு இங்கேயும் பொருத்தமானது. ஹராரி தியானம் செய்கிறார், மனித “புனைகதைகளால்” தன்னை “சிக்கிக்கொள்ள” அல்லது “குருட்டு” அடைவதைத் தடுக்கிறார். இதன் உட்பொருள் என்னவென்றால், அங்குள்ள அனைத்தும் ஏதோ ஒரு வகையில் ஒரு பொறி. எப்படியோ ஒரு தீவிரமான புத்தகத்தில் உள்வாங்கப்படுவதை விட அவரது சொந்த எண்ணங்களில் அவரை ஆழமாக சித்தரிப்பது எளிது.

இங்கிருந்து இப்போது ஹராரியின் தூரம் அவர் AI ஐ எப்படிப் பார்க்கிறார் என்பதை வடிவமைக்கிறது. சாதாரணமாக நடந்த ஒன்று என அவர் விவாதிக்கிறார். அதன் வருகை குறிப்பாக யாருடைய தவறும் அல்ல . நெக்ஸஸின் தொடக்கத்தில், ஹராரி ஒரு உவமையாக, ஜோஹன் வொல்ப்காங் வான் கோதேவின் மந்திரவாதியின் பயிற்சியைப் பற்றிய கதையை, ஒரு நல்ல அர்த்தமுள்ள ஆனால் தற்பெருமை கொண்ட ஒரு புதியவரைப் பற்றிக் கொண்டு வருகிறார். மக்கள் “திட்டமிடாத விளைவுகளுடன் சக்திவாய்ந்த விஷயங்களை உருவாக்க முனைகிறார்கள்,” ஹராரி ஒப்புக்கொள்கிறார், இருப்பினும் அவர் ஒரு தனிநபர் மீது பழியை சுமத்துவதற்காக கோதேவை குற்றம் சாட்டினார். ஹராரியின் பார்வையில், “அதிகாரம் எப்போதும் அதிக எண்ணிக்கையிலான மனிதர்களுக்கு இடையிலான ஒத்துழைப்பிலிருந்து உருவாகிறது”; அது சமூகத்தின் விளைபொருள்.

நிச்சயமாக உண்மை, ஆனால் நாம் ஏன் மந்திரவாதியின் பயிற்சியாளரைப் பற்றி பேசுகிறோம்? செயற்கை நுண்ணறிவு ஒரு “அச்சச்சோ” அல்ல. விஞ்ஞானிகள் பல தசாப்தங்களாக வேண்டுமென்றே வேலை செய்து வருகின்றனர். இந்த முயற்சிகள் செயலற்ற ஆர்வத்தால் இயக்கப்படவில்லை. தனிப்பட்ட AI மாதிரிகள் பில்லியன் டாலர்கள் செலவாகும். 2023 இல், வட அமெரிக்கா மற்றும் ஐரோப்பாவில் உள்ள துணிகர மூலதனத்தில் ஐந்தில் ஒரு பங்கு AI க்கு சென்றது. தொழில்நுட்ப நிறுவனங்கள் தங்கள் தயாரிப்பை ஏகபோகமாக்குவதன் மூலமாகவோ அல்லது சந்தைப்படுத்துவதன் மூலமாகவோ அபரிமிதமான வருவாயை ஈட்டினால் மட்டுமே இத்தகைய தொகைகள் அர்த்தமுள்ளதாக இருக்கும். அந்த அளவில், மிகவும் வெளிப்படையான வாங்குபவர்கள் மற்ற பெரிய நிறுவனங்கள் அல்லது அரசாங்கங்கள். பெருநிறுவனங்களுக்கும் மாநிலங்களுக்கும் அதிக அதிகாரம் கொடுத்தால் நல்ல பலன் கிடைக்கும் என்பதில் எவ்வளவு நம்பிக்கையுடன் இருக்கிறோம்?

AI அதன் சொந்த நோக்கங்களுடன் ஒரு அன்னிய நுண்ணறிவு ஆகாது. ஆனால், அது வேலை செய்யும் என்று ஊகித்து, அதைப் பயன்படுத்தும் அளவுக்கு பணக்காரர்களுக்கு இது ஒரு வலிமையான ஆயுதமாக இருக்கும். AI டெவலப்பர்கள் தங்கள் உருவாக்கத்தின் மீதான கட்டுப்பாட்டை இழக்க நேரிடும் சாத்தியக்கூறுகளைப் பற்றி கையை பிசைவது , மந்திரவாதியின் பயிற்சியாளர் போன்ற, அவர்கள் கட்டுப்பாட்டை இழக்க மாட்டார்கள், மேலும் அவர்கள் திட்டமிட்டபடி அதைப் பயன்படுத்துவார்கள் அல்லது விற்பனை செய்வார்கள் என்ற மிகவும் நம்பத்தகுந்த சூழ்நிலையிலிருந்து திசைதிருப்பப்படுகிறது.

ஹராரியின் கண்கள் சிலிக்கான் பள்ளத்தாக்கின் பொருளாதாரம் அல்லது அரசியலைக் காட்டிலும் அடிவானத்தையே அதிகம் நோக்குகின்றன. இது ஆழமான நுண்ணறிவுகளை உருவாக்கலாம், ஆனால் இது திருப்தியற்ற பரிந்துரைகளையும் செய்கிறது. நெக்ஸஸில், அவர் நான்கு கொள்கைகளை முன்மொழிகிறார். முதலாவது “பரோபகாரம்,” இவ்வாறு விளக்கினார்: “கணினி வலையமைப்பு என்னைப் பற்றிய தகவல்களைச் சேகரிக்கும் போது, அந்தத் தகவல் என்னைக் கையாள்வதற்குப் பதிலாக எனக்கு உதவப் பயன்படுத்தப்பட வேண்டும்.” தீயவராக இருக்காதீர்கள் – சரிபார்க்கவும் .

யார் உடன்பட மாட்டார்கள்? ஹராரியின் மற்ற மூன்று மதிப்புகள் தகவல் சேனல்களின் பரவலாக்கம், எங்கள் தரவைச் சேகரிப்பவர்களிடமிருந்து பொறுப்புக்கூறல் மற்றும் அல்காரிதமிக் கண்காணிப்பில் இருந்து சிறிது ஓய்வு. மீண்டும், இவை நன்றாக உள்ளன, ஆனால் அவை விரைவானவை, ஆச்சரியமளிக்காதவை, மற்றும்-குறிப்பாக சுருக்கத்தில் வெளிப்படுத்தப்படும்போது, “நாம்” அனைவரும் பாடுபட வேண்டிய விஷயங்கள்-மிகவும் உதவியாக இல்லை.

ஹராரி நெக்ஸஸை ஒரு அறிவிப்புடன் முடிக்கிறார்: “வரவிருக்கும் ஆண்டுகளில் நாம் அனைவரும் எடுக்கும் முடிவுகள்” AI “ஒரு நம்பிக்கைக்குரிய புதிய அத்தியாயமாக” அல்லது “டெர்மினல் பிழையாக” மாறுமா என்பதை தீர்மானிக்கும். ஆம், ஆம், அவரது தொடர்ச்சியான முதல்-நபர் பன்மைப்படுத்தல் (“நாம் அனைவரும் எடுக்கும் முடிவுகள்”) AI என்பது சில நிறுவனங்கள் மற்றும் அவற்றை இயக்கும் நபர்களின் விளைபொருளை விட மனிதகுலத்தின் கூட்டு உருவாக்கம் என்று மெதுவாகக் கூறுகிறது. இது நாடகத்தின் மிக முக்கியமான நடிகர்களை இருட்டடிப்பு செய்கிறது- முரண்பாடாக, அந்த நடிகர்கள் நமது அறிவுசார் வாழ்க்கையை நசுக்குவதைப் போலவே, ஹராரி கற்பனை செய்யும் முடிவுகளை எடுப்பதற்கு நமக்குத் தேவைப்படும் வலுவான, தகவலறிந்த விவாதங்களுக்கு இடையூறு விளைவிக்கிறது.

AI ஐ தீவிரமாக எடுத்துக்கொள்வது, அதை உருவாக்கும் நிறுவனங்களை நேரடியாக எதிர்கொள்வதை அர்த்தப்படுத்தலாம். பொருளாதார சக்தியின் செறிவு பற்றி கவலைப்படும் ஆர்வலர்கள் நம்பிக்கையற்ற சட்டம், இறுக்கமான கட்டுப்பாடு, வெளிப்படைத்தன்மை, தரவு சுயாட்சி மற்றும் மாற்று தளங்கள் பற்றி குறிப்பிட்ட விவரங்களுடன் பேசுகின்றனர். AT&T போன்று பெரிய நிறுவனங்கள் உடைக்கப்பட வேண்டும்.

ஹராரி வெளிப்படையாக எதிர்க்கவில்லை. அவரது மதிப்புகள் உண்மையில் அத்தகைய நடவடிக்கைகளை நியாயப்படுத்துவது போல் தோன்றும், குறிப்பாக அவர் வரைந்த சில பயங்கரமான சூழ்நிலைகளில் கட்டுப்பாடற்ற நிறுவனங்கள் (மற்றும் மாநிலங்கள்) அடங்கும். இன்னும் சிலிக்கான் பள்ளத்தாக்கின் மேலாதிக்க உலகக் கண்ணோட்டத்தில் ஹராரி எளிதாக இடம் பெறுகிறது. அவர் அடிக்கடி குறிப்பிடப்பட்ட டிஜிட்டல் துறவறம் இருந்தபோதிலும், அவர் தகவல்களை சேகரித்தல் மற்றும் வழங்குவதற்கான அதன் பாணியை எடுத்துக்காட்டுகிறார். மேலும், அந்த உலகில் உள்ள பலரைப் போலவே, அவர் தொழில்நுட்ப டிஸ்டோபியனிசத்தை அரசியல் செயலற்ற தன்மையுடன் இணைக்கிறார். தொழில்நுட்ப ஜாம்பவான்கள், AI ஐ மேலும் மேம்படுத்துவதில், மனிதகுலத்தை முடிவுக்கு கொண்டு வரக்கூடும் என்று அவர் நினைத்தாலும், அவற்றை முறியடிப்பதை அவர் அவசர முன்னுரிமையாக கருதவில்லை. ஒட்டுமொத்த மனித குலத்தின் கதைகளாகச் சொல்லப்பட்ட அவரது காவியக் கதைகள் , இதுபோன்ற எங்களுக்கும் அவர்களுக்கும் இடையிலான மோதல்களுக்கு அதிக இடமளிக்கவில்லை.

ஹராரி Sapiens அளவில் நன்றாக எழுதுகிறார். ஒரு புத்தகமாக, Nexus Sapience உயர் நீர் அடையாளத்தை அடையவில்லை, ஆனால் AI எவ்வாறு பேரழிவை ஏற்படுத்தக்கூடும் என்பதற்கான தடுப்பு பார்வையை இது வழங்குகிறது.