«هوش مصنوعی فقط یک ابزار است؛ مهم این است که چطور از آن استفاده کنی.» این جمله را این روزها زیاد میشنویم و بهظاهر هم منطقی است. اما فرانک الاوسکی (Frank Elavsky)، استادیار علم داده و پژوهشگر حوزهی تعامل با داده، در یادداشتی استدلال میکند که این جمله دو نیمه دارد و هر دو نیمه گمراهکنندهاند: نه ابزار «فقط ابزار» است، و نه همهی ماجرا به این برمیگردد که یک نفر چطور از آن استفاده میکند.
در ادامه هر دو نیمه را جدا جدا بررسی میکنیم و در پایان میبینیم که این نگاه، در عمل چه تفاوتی در تصمیمهای روزمرهی ما ایجاد میکند.
نیمهی اول: هیچ ابزاری خنثی نیست
خودرو را در نظر بگیرید. آیا میتوان گفت «خودرو فقط یک ابزار است و مهم این است که چطور رانندگی کنید»؟ خودرو شکل شهرها را عوض کرد، سهم بزرگی در آلودگی هوا داشت و در نهایت قانونگذاریهایی مثل الزام کمربند ایمنی را به دنبال آورد؛ قوانینی که جان انسانها را نجات میدهند، فارغ از اینکه راننده خوب باشد یا بد.
ابزارها محیط، قانون و حتی تصور ما از زندگی روزمره را تغییر میدهند. حتی یک چکش ساده هم به قطع درخت، استخراج معدن و قوانین کار وابسته است.
ابزارها فقط تغییر نمیدهند؛ به ما جهت هم میدهند. یک صندلی ساده را در نظر بگیرید: طراحی صندلی عملاً به شما میگوید بنشین، رو به جلو باش و در همین حالت بمان. مارتین هایدگر، فیلسوف آلمانی، همین ویژگی را نقطهی اصلی نسبت انسان و فناوری میدانست؛ اینکه فناوری با طراحیاش، شکل بودن ما را تعیین میکند.
به گفتهی الاوسکی، تفاوت هوش مصنوعی با ابزارهای پیشین در این است که فقط بدن ما را در یک چارچوب فیزیکی نمیگذارد؛ بلکه ما را به سمتی میبرد که تفکر انتقادی1 را کنار بگذاریم، تخیل نکنیم و از هر تلاش ذهنی فاصله بگیریم.
آزمون کوه و جدول؛ کدام سختی را باید حذف کرد؟
بزرگترین وعدهی اتوماسیون همیشه حذف کارهای طاقتفرسا بوده است. حالا هم به ما میگویند با یک دستور متنی ساده میتوانید تصویر بسازید، متن بنویسید یا کد بزنید؛ بدون هیچ سختی. اما پرسش اصلی اینجاست: آیا هر سختی، سختیِ بیهوده است؟
الاوسکی برای همین یک معیار ساده پیشنهاد میکند: بپرسید با یک «کوه» طرفید یا با یک «جدولِ کنار خیابان»؟
جدولِ بلندِ کنار خیابان برای کسی که ویلچر دارد فقط یک مانع بیدلیل است؛ باید شیبدارش کرد. اما کوه برای کوهنورد خودِ هدف است؛ اگر آن را صاف کنیم، دیگر چیزی برای فتح کردن نمانده. سختیِ بیدلیل را حذف کنید، سختیِ معنادار را نه.
مثال ورزش هم همین را نشان میدهد: کسی از ربات نمیخواهد وزنهها را بهجای او بلند کند، چون خودِ بلند کردن وزنه هدف است. اما دستگاههای ایمنتر، کابلهای محکمتر و آینهی مقابل وزنهها، ابزارهاییاند که همان تلاش را بهتر ممکن میکنند.
حالا همین معیار را به کارهای دیجیتال ببرید. تصحیح خودکار غلطهای املایی در گوشی، یک «جدول» است؛ مانعی بیدلیل که حذفش هیچ چیزی از شما کم نمیکند. اما وقتی از هوش مصنوعی میخواهید بهجای شما مقاله، پایاننامه یا ایمیل بنویسد، یک «کوه» را صاف کردهاید: فرایند فکر کردن، استدلال کردن و یاد گرفتن.
پیام تبریک تولد برای مادرتان، متنی که با آن از حق خودتان در محیط کار دفاع میکنید و تمرینی که با آن مهارت تازهای یاد میگیرید، همگی «کوه» هستند؛ سختیشان بخشی از فایدهشان است.
الاوسکی مینویسد هوش مصنوعی در این حالت بیشتر شبیه یک مسکّن عمل میکند تا یک ابزار؛ درد را برمیدارد، اما تجربهی رشد و ارتباط واقعی را هم با خودش میبرد.
نیمهی دوم: «مهم این است که چطور استفاده کنی» چه چیزی را پنهان میکند؟
تا اینجا ممکن است به نظر برسد همهچیز به انتخاب شخصی برمیگردد. اما نیمهی دوم جمله دقیقاً همینجا گمراه میکند: وقتی میگوییم «مهم این است که چطور استفاده کنی»، کل مسئولیت اخلاقی، زیستمحیطی و اقتصادیِ ساختن و عرضهی یک فناوری را از دوش سازنده برمیداریم و روی دوش کاربر نهایی میگذاریم.
در حالی که بخشی از هزینههای هوش مصنوعی اصلاً در لحظهی استفاده تعیین نمیشود؛ پیش از آن، در مرحلهی ساخت، رقم خورده است:
- هزینهی محیط زیستی: بررسی «امآیتی تکنولوژی ریویو» نشان میدهد آموزش و اجرای مدلهای امروزی، مصرف انرژی و آب دیتاسنترها را بهشکل محسوسی بالا برده است؛ هزینهای که کاربر پای نمایشگر آن را نمیبیند.
- دادههایی که بدون اجازه برداشته شد: بخش بزرگی از این مدلها روی متن، تصویر و آثار هنریای آموزش دیدهاند که بدون رضایت پدیدآورندگان از فضای وب جمعآوری شدهاند. این پرونده هنوز در دادگاههای مختلف باز است و انتخاب فردی کاربر آن را حل نمیکند.
هیچکدام از این دو مسئله با «درست استفاده کردن» یک نفر حل نمیشود. همانطور که آلودگی خودرو با رانندگیِ محتاطانهی یک راننده حل نشد و به استاندارد و قانون نیاز داشت، اینجا هم پای شفافیت شرکتها، قاعدهگذاری و حقوحقوق پدیدآورندگان در میان است.
پس چه باید کرد؟
هدف این نیست که ابزار را دور بیندازیم؛ هدف این است که آن را مهار کنیم تا در خدمت ارزشهای ما باشد. این کار دو سطح دارد: انتخابهای روزمرهی خودتان، و چیزی که از سازندگان و قانونگذار مطالبه میکنید.
- قبل از هر بار استفاده، آزمون کوه و جدول را اجرا کنید: از خودتان بپرسید این کار برای من یک مانع بیدلیل است یا خودِ هدف؟ اگر خودِ کار قرار است چیزی به شما اضافه کند، سپردنش به ماشین یعنی از دست دادن همان چیز.
- برای کارهای انسانی مرز بگذارید: پیامهای شخصی، تصمیمهای مهم زندگی و تحلیلهایی که اعتبار کاریتان به آنها بند است را خودتان بنویسید و انجام دهید.
- مصرفکنندهی منفعل نباشید: هر بار بپرسید واقعاً به این ابزار نیاز دارم یا از سر عادت و تنبلی ذهنی سراغش رفتهام؟
- سطح دوم را فراموش نکنید: از سرویسی که استفاده میکنید شفافیت دربارهی دادههای آموزشی و مصرف انرژی را مطالبه کنید و از قواعدی که حق پدیدآورندگان را به رسمیت میشناسد حمایت کنید. اینها را انتخاب فردی جبران نمیکند.
بیشتر بخوانید
ابزارها خنثی نیستند و هیچوقت نبودهاند. کاری که از دست ما برمیآید این است که پیش از آنکه این ابزارها شکل ما را تعیین کنند، ما شکل آنها را تعیین کنیم.
- تفکر انتقادی (Critical Thinking) به معنی توانایی تحلیل، ارزیابی و پرسشگری درباره اطلاعات، ادعاها و استدلالها برای رسیدن به قضاوتی منطقی و مبتنی بر شواهد، بهجای پذیرش بیچونوچرای آنهاست. ↩︎
