هشدار تحریف تاریخ

آیسا اسدی| اکونومیست: در یادداشتی که در اکونومیست منتشر شده، یووال نوح هراری تاریخ‌نگار معتقد است که هوش مصنوعی سیستم‌عامل تمدن بشری را هک کرده است: ترس از هوش مصنوعی از همان آغاز عصر رایانه، بشریت را درگیر کرده است. تاکنون این ترس‌ها بر ماشین‌هایی متمرکز بود که از ابزارهای فیزیکی برای کشتن، بردگی یا جایگزینی افراد استفاده می‌کردند. اما در طول چند سال گذشته ابزارهای هوش مصنوعی جدیدی پدید آمده‌اند که بقای تمدن بشری را از جهتی دیگر و به طور غیرمنتظره تهدید می‌کنند. هوش مصنوعی توانایی‌های قابل توجهی برای دستکاری و تولید زبان، چه با استفاده از کلمات، چه صداها و یا تصاویر به دست آورده است. به عبارتی دیگر هوش مصنوعی سیستم‌عامل تمدن ما را هک کرده است.

زبان چیزی است که تقریبا تمام فرهنگ بشری از آن ساخته شده است. برای مثال حقوق بشر در دی‌ان‌ای ما گنجانده نشده است. بلکه آنها آثار فرهنگی هستند که ما با گفتن داستان و نوشتن قوانین خلق کرده‌ایم. پول نیز یک مصنوع فرهنگی است. اسکناس‌ها فقط تکه‌های کاغذ رنگارنگ هستند و در حال حاضر بیش از 90 درصد پول حتی اسکناس هم نیست؛ بلکه فقط اطلاعات دیجیتالی در رایانه‌ها است. آنچه به پول ارزش می‌دهد داستان‌هایی است که بانکداران، وزیران دارایی و متخصصان ارزهای دیجیتال در مورد آن به ما می‌گویند. بسیاری از این افراد در خلق ارزش واقعی مهارت خاصی نداشتند، اما همگی داستان‌نویسانی بسیار توانا بودند.

زمانی که یک هوش غیرانسانی در داستان‌گویی، ساختن ملودی‌ها، ترسیم تصاویر و نوشتن قوانین و متون مقدس از یک انسان معمولی بهتر شود، چه اتفاقی می‌افتد؟ هنگامی که مردم در مورد Chatgpt و سایر ابزارهای جدید هوش مصنوعی فکر می‌کنند، اغلب به سمت مثال‌هایی مانند استفاده دانش‌آموزان از هوش مصنوعی برای نوشتن مقالات خود کشیده می‌شوند؛ وقتی دانش‌آموزان این کار را انجام دهند چه اتفاقی برای سیستم مدرسه می‌افتد؟ اما با طرح چنین پرسش‌هایی شما تصویر کلی و ماجرای اصلی را از دست می‌دهید. انشاها و تحقیقات مدرسه‌ای را فراموش کنید. به رقابت بعدی ریاست جمهوری آمریکا در سال 2024 فکر کنید و سعی کنید تاثیر ابزارهای هوش مصنوعی را تصور کنید که می‌توانند برای تولید انبوه محتوای سیاسی، داستان‌های گوناگون در حوزه اخبار جعلی و متون مقدس برای فرقه‌های جدید ساخته شوند.

در سال‌های اخیر فرقه «کیواِنان» حول پیام‌های آنلاین ناشناس معروف به «کیو دراپس» ایجاد شده است. پیروان این فرقه تمام کیو دراپس‌ها را به عنوان متنی مقدس جمع‌آوری، احترام و تفسیر ‌می‌کردند. در حالی که تا آنجا که ما می‌دانیم، تمام کیو دراپس‌های قبلی توسط انسان‌ها ساخته شده‌اند و ربات‌ها صرفا به انتشار آن‌ها کمک می‌کنند. اما در آینده ممکن است اولین فرقه‌های تاریخ را ببینیم که متون مورد احترام آن‌ها توسط یک هوش غیرانسانی نوشته شده است. این موضوع می‌تواند به زودی به یک واقعیت تبدیل شود.

در سطحی غیرعادی‌تر ممکن است به زودی خودمان را در حال انجام بحث‌های آنلاین طولانی در مورد سقط جنین، تغییرات آب و هوا یا جنگ روسیه و اوکراین با اشخاصی بیابیم که فکر می‌کنیم انسان هستند اما در واقع نیستند. نکته مهم این است که صرف زمان برای تغییر نظرات اعلام شده توسط یک ربات کاملا بیهوده است؛ هوش‌ مصنوعی می‌تواند پیام‌های خود را چنان دقیق ثبت کند که شانس خوبی برای تاثیرگذاری بر انسان‌ها داشته باشد.

هوش مصنوعی حتی می‌تواند از طریق تسلط بر زبان، روابط صمیمانه‌ای با مردم برقرار کند و از این قدرت صمیمیت برای تغییر عقاید و جهان‌بینی ما استفاده کند. اگر چه هیچ نشانه‌ای وجود ندارد که هوش مصنوعی هوشیاری یا احساسات خاص خود را داشته باشد، اما برای تقویت صمیمیت ساختگی با انسان‌ها تنها کافی است که هوش مصنوعی بتواند آنها را وادار کند که از نظر عاطفی به آن احساس وابستگی کنند. در ژوئن 2022 مهندس گوگل بلیک لِموین علنا ادعا کرد که ربات چت مصنوعی لامدا، که او روی آن کار می‌کرد، هوشیار و دارای احساسات شده است! این ادعای بحث برانگیز به قیمت کارش تمام شد. نکته مهم در مورد این قسمت از ادعای آقای لِموین نبود که احتمالا ادعای دروغینی نیز بود. نکته قابل توجه تمایل او بود که شغل پردرآمد خود را به خاطر یک ربات چت مصنوعی به خطر بیاندازد. اگر هوش مصنوعی بتواند افراد را تحت تاثیر قرار دهد تا شغل خود را برای آن به خطر بیندازند، چه چیز دیگری می‌تواند آنها را به انجام چنین کاری ترغیب کند؟

در نبردی سیاسی با ذهن‌ها و قلب‌ها، صمیمیت کارآمدترین سلاح است و هوش مصنوعی به تازگی توانایی تولید انبوه روابط صمیمانه با میلیون‌ها نفر را به دست آورده است. همه ما می‌دانیم که در دهه گذشته شبکه‌های اجتماعی به میدان جنگ برای کنترل توجه انسان‌ها تبدیل شده‌اند. با نسل جدید هوش مصنوعی، جبهه جنگ از توجه به صمیمیت تغییر می‌کند. چه اتفاقی برای جامعه بشری و روانکاوی انسان خواهد افتاد، زیرا هوش مصنوعی در نبردی برای ساختن روابط صمیمانه با انسان‌ها است و می‌تواند برای متقاعد کردن انسان‌ها برای رای دادن به سیاستمداران خاص یا خرید محصولات خاص از این صمیمت استفاده کند.

حتی بدون ایجاد «صمیمیت جعلی»، ابزارهای جدید هوش مصنوعی تاثیر زیادی بر نظرات و جهان‌بینی ما خواهند داشت. مردم ممکن است از یک مشاور هوش مصنوعی به عنوان یک اوراکل دانا و همه‌چیز دان استفاده کنند. جای تعجب نیست که گوگل ترسیده است. وقتی من می‌توانم همه چیز را فقط از اوراکل بپرسم، چرا به خودم زحمت جست و جو در گوگل را بدهم؟ صنایع خبری و تبلیغاتی نیز باید هراسان باشند. چرا روزنامه بخوانم وقتی می‌توانم فقط از اوراکل بخواهم آخرین اخبار را به من بگوید؟ یا وقتی می‌توانم از اوراکل بخواهم به من بگوید چه چیزی بخرم، دیگر چه نیازی تبلیغات هست؟

حتی این سناریوها هم واقعا حقیقت ماجرا و اصطلاحا تصویر بزرگ را ثبت نمی‌کنند. آنچه ما در مورد آن صحبت می‌کنیم به طور بالقوه پایان تاریخ بشر است. پایان تاریخ نه به معنای انقراض انسان‌ها، بلکه فقط پایان بخش تحت سلطه انسان. تاریخ تعامل بین زیست‌شناسی و فرهنگ است. این تعامل بین نیازها و تمایلات بیولوژیکی ما به چیزهایی مانند غذا و خلاقیت‌های فرهنگی ما مانند قوانین است که تاریخ را می‌سازد. تاریخ فرآیندی است که از طریق آن قوانین و مذاهب سایر بخش‌های زندگی آدمی را شکل می‌دهند.

چه اتفاقی برای سیر تاریخ خواهد افتاد وقتی هوش مصنوعی فرهنگ بشری را در دست بگیرد و شروع به تولید داستان‌ها، ملودی‌ها، قوانین و مذاهب جدید کند؟ ابزارهای قبلی مانند چاپخانه و رادیو به گسترش ایده‌های فرهنگی انسان‌ها کمک می‌کردند، اما هرگز ایده‌های فرهنگی جدیدی از خود خلق نکردند. هوش مصنوعی اما اساسا متفاوت است. هوش مصنوعی می‌تواند ایده‌های کاملا جدید و در پی‌اش فرهنگ کاملا جدیدی ایجاد کند.

در ابتدا هوش مصنوعی احتمالا نمونه‌های اولیه انسانی را تقلید می‌کند که در مراحل ابتدایی آموزش دیده بود. اما هر سال که می‌گذرد، فرهنگ هوش مصنوعی به طور جسورانه به جایی می‌رود که هیچ انسانی پیش‌تر نرفته است. هزاران سال است که انسان‌ها در درون رویاهای انسان‌های دیگر زندگی کرده‌اند. در دهه‌های آینده ممکن است  انسان‌ها در درون رویاهای یک هوش بیگانه زندگی کنند.

ترس از هوش مصنوعی تنها در چند دهه گذشته بشر را تحت الشعاع قرار داده است. اما هزاران سال است که انسان‌ها درگیر ترس بسیار عمیق‌تری بوده‌اند. ما همیشه از قدرت داستان‌ها و تصاویر برای دستکاری ذهن و ایجاد توهم آگاه بوده‌ایم. در نتیجه از زمان‌های قدیم، انسان‌ها از گرفتار شدن در دنیای توهمات می‌ترسیدند.

اینجا روی زمین ما چیز زیادی در مورد هوش مصنوعی نمی‌دانیم، جز اینکه ممکن است تمدن ما را نابود کند. ما باید استقرار غیرمسئولانه ابزارهای هوش مصنوعی را در حوزه عمومی متوقف کنیم و مقرراتی برای این ابزارها (پیش از اینکه آنها ما را تنظیم کنند) وضع کنیم. و اولین مقرراتی که پیشنهاد می‌کنم این است: اجباری کردن فاش سازی حضور هوش مصنوعی در هر جایی که به فعالیت مشغول است. اگر من با کسی صحبت می‌کنم و نمی‌توانم بگویم که انسان است یا ربات، این پایان دموکراسی است.

متن فوق توسط یک انسان نوشته شده است.