به گزارش پلاتو هنر، یکی از ترس‌های رایج در بین افراد، خطر نابودی بشریت به دست هوش مصنوعی است اما پژوهشگران و متخصصان، چنین خطری را کمی مبالغه‌آمیز دانسته و به جای انحطاط بشریت، انحطاط فرهنگ و هنر را بزرگ‌ترین خطر هوش مصنوعی می‌دانند.
نشریه آرت‌نت، میزگردی با حضور 4 تن از پژوهشگران هنر و تکنولوژی برگزار کرد و اعضای این جلسه درباره خطرات هوش مصنوعی به گفتگو پرداختند.
تینا تالون، پژوهشگر، آهنگساز و استادیار هوش مصنوعی و هنر در دانشگاه فلوریدا، احمد الگامال، استاد دپارتمان علوم کامپیوتر در دانشگاه راتگِرز بزرگ‌ترین موسسه آموزش عالی در ایالت نیوجرزی آمریکا، عضو هیئت علمی مرکز علوم شناختی و مدیر لابراتوار «هنر و هوش مصنوعی» در این دانشگاه و بنیان‌گذار هوش مصنوعی مولدی به نام «پلی فرم»، هِیدی بویوِر دانش آموخته رشته هنرهای الکترونیک در مقطع دکتری و مدیر چندین موسسه هنری-فناورانه، و آدری کیم مدیر موزه Misalignment در سانفرانسیسکو، اعضای این جلسه بودند.
بخشی از گفتگو و مباحث مطرح شده در این میزگرد را در ادامه بخوانید.
ربات‌ها انسان‌ها را در یک مزرعه به بردگی گرفته‌اند
آیا قرار است هوش مصنوعی ما را نابود کند؟
تینا تالون درباره از بین رفتن بشریت به دست هوش مصنوعی عنوان کرد: «این همه سر و صدا برای ترس از اینکه «سر و کله ربات‌ها دارد پیدا می‌شود تا همه ما را بکشند»، مبالغه آمیز است و درستی آن خیلی قابل تشخیص نیست. دانشمندان، سیاستمداران و رسانه‌ها، تازه در چند دهه اخیر به فکر تاثیرات هوش مصنوعی افتاده‌اند ولی هنرمندان از قدیم به فکر تاثیرات اتوماسیون انسانی بوده‌اند. در طول تاریخ، قصه‌هایی درباره آدم‌های ماشینی در اساطیر یونان، یهود و روم در کنار دیگر ادبیات‌ها به گوش می‌خورند.»
این آهنگساز ادامه داد: «هنرمندان از قافله عقب نبوده‌اند و به همین دلیل، سیاستگذاران و توسعهدهندگان باید به هنرمندان در پیدا کردن راه حل برای مشکلاتی که با آنها روبه‌رو خواهیم شد، کمک کنند.»
هوش مصنوعی می‌تواند از باورها سوءاستفاده کند
احمد الگامال خطر جدی هوش مصنوعی را در سوءاستفاده از باورها و ارائه اطلاعات غلط می‌داند. این استاد دانشگاه درمورد این خطر مطرح کرد: «ممکن است هوش مصنوعی خطرات گسترده‌تری در پی داشته باشد. برای مثال، سیستم‌هایی از این دست می‌توانند اطلاعات را جمع‌آوری و از باورها سوء استفاده کنند. خطری که قطعا به وقوع خواهد پیوست و حتی همین حالا هم شروع شده، این است که این سیستم‌ها دست به اعمالی در اینترنت بزنند و کدها را اجرا کنند. این جا است که کار سخت و خیلی خطرناک می‌شود.»
او ادامه داد: «سیستم‌های هوش مصنوعی به راحتی می‌توانند اطلاعات غلط ارائه دهند. این خطر احتمالی که در سال‌های اخیر در شبکه‌های اجتماعی و «اخبار جعلی» مشهود است، می‌تواند روی حکومت‌های دموکراتیک غربی تاثیرگذار باشد- و حالا این سیستم‌ها حتی می‌توانند بلاگ بسازند و چیزهایی بنویسند که تهدیدهایی جدی به شمار آیند.»
شخصی‌سازی رسانه‌ها، خطر دیگر هوش مصنوعی
هِیدی بویوِر در ابتدای صحبتش به تاریخ ظهور ایده ای آی پرداخت. بویوِر عنوان کرد: «حدودا در سال 1947، ایده هوش مصنوعی و نظریه برقراری ارتباط و کنترل ماشین‌ها و حیوانات در نتیجه گفتگوها درباره سایبرنتیک[1] پدید آمد.»
او در ادامه از خطرات هوش مصنوعی این چنین گفت: «این امکان وجود دارد که ای آی توانایی‌های شناختی و روش‌های مختلف برای شخصی‌سازی رسانه‌ها و دیدگاه‌های جهانی را بر اساس ویژگی‌های بیولوژیکی خاص خودش تصاحب کند و این مسئله خطرناکی است. در اصل استقلال انسانی‌مان را می‌گیرد.»
یک ربات در حال پرورش گل
آیا هوش مصنوعی می‌تواند به آگاهی دست پیدا کند؟
سوال مرتبط دیگری که باید مطرح شود این است: آیا هوش مصنوعی واقعا خواهد توانست تا مانند انسان‌ها فکر و حس کند؟ آدری کیم در جواب به این سوال گفت که «در حال حاظر اختلاف نظر زیادی درباره ادراک» و معنای انسانیت وجود دارد.
کیم مثالی از سگ خود زد که به آن یاد داده است تا در خانه با استفاده از دکمههای مخصوص حیوانات[2] با او ارتباط برقرار کند؛ مثلا به کیم بفهماند که نیاز به غذا یا بیرون رفتن دارد.
کیم عنوان کرد: «به نظرم درجات مختلفی از آگاهی وجود دارد و با روش‌های مختلفی می‌شود آن را افزایش و حتی کاهش داد. مشخصا کسی که در کما است در سطح متفاوتی از آگاهی به سر می‌برد تا کسی که همین الان دارد با ما گفتگو می‌کند.»
او در ادامه سخنانش به سگ خود اشاره کرد و گفت: «باید این سگ را ببینید! من ابزارهایی برای کشف دنیا به آن داده‌ام و با این کار دارم کم و بیش آگاهیش را افزایش می‌دهم… وقتی صحبت از ادراک یا معنای ربات نبودن می‌شود، پای سوالات اگزیستانسیالیستی اساسی‌ای حتی قبل از اینکه درباره معرفی ای آی به آن صحبت کنیم، وسط می‌آید.»
آگاهی یا توهم آگاهی؟
الگامال با اشاره به «توهم آگاهی» عنوان کرد: «دانشمندان در آینده می‌توانند توهم آگاهی را ایجاد کنند ولی نه آگاهی واقعی را. نسل بعدی سیستم‌های هوش مصنوعی کاری خواهند کرد تا شما فکر کنید که آنها دارای آگاهی هستند ولی خبر خوب این است که ای آی هیچ وقت نمی‌تواند صاحب آگاهی شود.»
او در ادامه افزود: «ولی ایجاد چنین تفکری، با خطر به کار گیری این ابزارها برای سوء استفاده کردن از مردم همراه است چون آنها فکر خواهند کرد که هوش مصنوعی واقعا آگاه است و می‌تواند متون و تصاویر دیجیتالی خلق کند.»
بویوِر داده را به طلا تشبیه کرد و در این باره گفت: «داده طلا است و همچنین نحوه‌ای که داریم از آن استفاده می‌کنیم تا رفتار انسان‌ها را کنترل کنیم؛ حالا می‌خواهد ترجیحات موسیقی در اِسپاتیفای باشد، یا چیزی فریبکارانه مانند هدایت رای دهی مردم، ولی تغییر دیدگاه جهانی مردم یکی از بزرگ‌ترین خطرات احتمالی است.»
بویور مطرح کرد: «درمورد اینکه ما در چه سطحی از دستیابی به هوش مصنوعی عمومی هستیم، حرف و حدیث‌های زیادی وجود دارد.»
او ادامه داد: «ما هنوز این دیدگاه‌های افراطی و علمی تخیلی درباره انقراض کامل بشریت را داریم. شایعات اغراق‌آمیز و هولناک زیادی پراکنده شده است ولی این فناوری، کاربردهای مثبت بالقوه زیادی هم در چنته دارد.»
صفی از ربات‌های انسان‌نما در پشت یک قبرستان
هوش مصنوعی و انحطاط فرهنگ و هنر
تالون گفت: «یکی از عقیده‌ها این است که هوش مصنوعی یک حلقه بازخوردی ایجاد خواهد کرد که در آن، مدل‌ها را براساس مجموعه داده‌هایی آموزش خواهند داد که شامل هنری است که برای افزایش مشارکت انسان‌ها فیلتر شده است.»
او در ادامه افزود که نگاه‌های بازخوردی این چنینی ممکن است امکان بیان احساسات و افکار انسان را محدود کنند زیرا مدل‌های هوش مصنوعی هنرهایی را که تجربی، عجیب‌وغریب و نامرسوم هستند، فیلتر خواهند کرد.
تالون به یکی دیگر از مشکلات هوش مصنوعی مولد اشاره کرد و گفت که مدل‌های جدید را دارند با خروجی‌هایی که هوش مصنوعی مولد تولیده کرده است، آموزش می‌دهند که همین مسئله یک چرخه بازخوردی دیگر ایجاد می‌کند. کیم این مشکل را «درون‌زایی هنر» نامید.
الگامال با اشاره به همان مسئله عنوان کرد که در این صورت بیان احساسات و افکار انسانی پایان خواهد یافت زیرا هوش مصنوعی به تولید تصاویر یکسان ادامه می‌دهد.
الگامال گفت: «پلتفرم «میدجِرنی» چیزهای شگفت‌انگیزی خلق می‌کند ولی همه آنها مثل هم هستند. شما می‌توانید حدس بزنید که «میدجرنی» این چیزها را ساخته و این رکود است. روزانه، ایده‌های بی‌نهایت زیادی به ذهن انسان خطور می‌کنند. از سوی دیگر، هوش مصنوعی باید ایده‌ها را بازیافت کند و اساسا باید به نحوی این کار انجام دهد که ایده‌ها جدید به نظر بیایند اما در حقیقت این طور نیستند و این نحوه‌ای است که ذاتا از هوش مصنوعی انتظار می‌رود که کار کند.»
تالون مطرح کرد که سیاستگذاران و توسعهدهندگان هوش مصنوعی باید به چگونگی وجود این مدل‌ها در نظام‌های سرمایه‌داری فکر کنند. او افزود: «دیدن اینکه هوش مصنوعی چگونه با آن سازوکارهای زودگذرِ مورج گرایش‌های [جدیدِ] تولید و مصرف سازگار می‌شود، جذاب خواهد بود.»
تالون گفت: «سازنده این ابزارها خودشان هنرمند نیستند. شاید هنرمند یا موسیقی‌دان‌هایی تازه‌کار باشند که در هر صورت، امرار معاش‌شان به خلق آثار هنری بستگی ندارد. در نهایت هم اکثرشان از آنچه که واقعا هنرمندان هر روز انجام می‌دهند، بی‌خبرند.»
الگامال با اشاره به این که سیستم‌های هوش مصنوعی می‌توانند دستیار مفیدی برای انسان‌ها باشند، گفت: «هوش مصنوعی می‌تواند تصویر تولید کند اما نمی‌تواند هنر خلق کند. هنر مختص انسان‌ها است؛ هنرمندان هنر خلق می‌کنند.»
تالون مطرح کرد: «قبلا شرایط طوری بود که شما می‌توانستید در یک شرکت طراحی گرافیک یا شرکت تبلیغاتی استخدام و مشغول به کار شوید. چنین شرایطی برای هنرمندان هنرهای تجسمی، موقعیت شغلی باثباتی به حساب می‌آمد. فکر نمی‌کنم الان اوضاع از این قرار باشد و به نظرم خیلی از کارهایی از این دست به هوش مصنوعی محول خواهند شد.»
با این حال، تالون خوش‌بین است که با رواج هوش مصنوعی، انسان‌ها بالاخره ارزش هنر دست دیگر انسان‌ها و کار گروهی را خواهند دانست.
کیم عنوان کرد که در تاریخ هنر، ظهور فناوری‌های نوین همیشه با ایجاد تغییراتی همراه بوده است. برای مثال، افزایش سرعت شاتر در دوربین‌ها به پیشرفت عکاسی کاندید و خیابانی منجر شد.
الگامال در تاید سخنان کیم مطرح کرد: «به همین دلیل، هنرمندان باید همیشه ابتکار به خرج دهند و به دنبال چیزهای جدیدی باشند که برای ما موثر هستند. هنرمندانی که از هوش مصنوعی استفاده می‌کنند این توانایی را دارند که رو به جلو حرکت کنند و چیزهای جدید بیافرینند. پیش از ظهور دوربین‌ها هم چنین اتفاقی افتاد. هنرمندان در آن زمان فکر می‌کردند که «هنر چه فایده‌ای دارد؟» ولی چنین اتفاقی نیفتاد و دوربین عکاسی هنر را از بین نبرد. بله، دوربین‌ها مشاغل هنرمندانی را که پرتره خلق می‌کردند از بین برد اما فرصت‌های جدید زیادی هم برای هنر به وجود آورد. عکاسی تبدیل به رشته هنری جدیدی شد اما هنر هم رشد کرد و از هنر فیگوراتیو فاصله گرفت.
—————-
[1]. طبق تعریف ویکی پدیا، «سایبرنتیک نام نظریه‌ای است که مناسبات انسان و ماشین، و مناسبات ماشین‌ها با یکدیگر را تبیین می‌کند. این نظریه را نوربرت وینر مطرح کرده‌است»_ مترجم
[2]. دکمههای مخصوصی هستند که برای آموزش حیوانات خانگی مخصوصا سگ و گربه استفاده می‌شوند و این امکان را به آنها می‌دهند تا با صاحب‌شان ارتباط برقرار کنند و نیاز‌های‌شان را منتقل کنند_ مترجم
فاطمه زهرا معصومی