یادداشتی از هنری ای کیسینجر، اریک اشمیت و دانیل هاتنلوچر 2023
#ترجمه_اختصاصی
محمدحسین اکبرزاده
هوش مصنوعی مولد چالشی فلسفی و عملی را در مقیاسی است که از آغاز عصر روشنگری تا کنون تجربه نشده است.
یک فناوری جدید که به دنبال تغییرو تحول فرآیند شناختی انسان است، فرآیند شناختی انسان که از زمان اختراع چاپ تاکنون متزلزل نشده است به چالش می‌کشد. فناوری مقدس چاپ کتاب گوتنبرگ در سال 1455 باعث شد که افکار انتزاعی بشر به طور کلی و سریع قابل انتقال باشد. اما امروزه فناوری جدید این روند را معکوس کرده است. در حالی که ماشین چاپ باعث انبوه تفکر مدرن بشری شد، فناوری جدید به تقطیر و بسط خود دست می یابد. در این فرآیند، شکافی بین دانش انسان و درک انسان ایجاد می کند. اگر بخواهیم این دگرگونی را با موفقیت پشت سر بگذاریم، باید مفاهیم جدیدی از تفکر انسان و تعامل با ماشین‌ها ایجاد شود. این چالش اساسی عصر هوش مصنوعی است.
فناوری جدید به عنوان هوش مصنوعی مولد، شناخته می شود. GPT مخفف Generative Pre-Trained Transformer (مبدل از پیش آموزش دیده مولد) است. ChatGPT که در آزمایشگاه تحقیقاتی OpenAI توسعه یافته است، اکنون قادر به مکالمه با انسان است. با گسترده‌تر شدن ظرفیت‌های آن، دانش بشری را بازتعریف می‌کنند، تغییرات در ساختار واقعیت ما را تسریع می‌کنند و سیاست و جامعه را دوباره سازمان‌دهی می‌کنند.
هوش مصنوعی، چالشی فلسفی و عملی را در ابعادی ارائه می‌کند که از آغاز عصر روشنگری تا به لمروز تجربه نشده است. چاپخانه، محققین را قادر ساخت تا یافته های یکدیگر را به سرعت تکرار کرده و آنها را به اشتراک بگذارند. ادغام و گسترش بی سابقه اطلاعات، روش‌های جدید علمی را ایجاد کرد. آنچه غیرقابل نفوذ بود، به نقطه شروعی در پرسیدن و نقد قرار گرفت. تفسیر قرون وسطایی از جهان مبتنی بر ایمان مذهبی به تدریج تضعیف شد. اعماق کیهان را می‌توان تا زمانی که به محدودیت‌های جدیدی از درک بشر برسد، کاوش کرد.
هوش مصنوعی نیز به طور مشابه راه‌های انقلابی را برای خرد انسانی و افق‌های جدیدی را برای دانش یکپارچه باز خواهد کرد. اما تفاوت های قطعی وجود دارد. دانش روشنگری به تدریج، گام به گام، با هر مرحله قابل آزمایش و آموزش به دست آمده است. در حالیکه سیستم های مجهز به هوش مصنوعی از انتهای دیگر شروع می شوند. آنها می توانند حجم عظیمی از اطلاعات موجود را ذخیره و تقطیر کنند، در مورد ChatGPT بسیاری از مطالب متنی در اینترنت و تعداد زیادی کتاب - میلیاردها مورد. نگهداری آن حجم از اطلاعات و تقطیر آن فراتر از توان انسان است.
روش‌های پیشرفته هوش مصنوعی، بدون توضیح اینکه چرا یا چگونه فرآیندشان کار می‌کند، نتایجی را ارائه میدهد. GPT با یک پرس و جو توسط یک انسان فعال می شود. ماشین یادگیری در عرض چند ثانیه با متنی ادبی پاسخ می دهد. چرا قادر است این کار را انجام دهد زیرا بازنمایی هایی از داده های گسترده ای را که بر اساس آنها آموزش دیده است، از قبل تولید کرده است. از آنجایی که فرآیند ایجاد آن بازنمایی‌ها توسط یادگیری ماشینی توسعه داده شد که الگوها و ارتباطات را در مقادیر وسیعی از متن منعکس می‌کند، منابع و دلایل دقیق برای ویژگی‌های خاص هر یک از نمایش‌ها ناشناخته باقی می‌مانند. ماشین یادگیری با چه فرآیندی دانش خود را ذخیره می کند، آن را تقطیر می کند و بازیابی می کند، به طور مشابه ناشناخته باقی می ماند. این که آیا این فرآیند هرگز کشف خواهد شد، رمز و راز مرتبط با یادگیری ماشینی، شناخت انسان را برای آینده نامعلومی به چالش خواهد کشید.
ظرفیت‌های هوش مصنوعی ثابت نیست، زیرا با پیشرفت فناوری به‌طور تصاعدی گسترش می‌یابد. اخیراً پیچیدگی مدل های هوش مصنوعی هر چند ماه یکبار دو برابر شده است. بنابراین سیستم‌های هوش مصنوعی مولد قابلیت‌هایی دارند که حتی برای مخترعانشان نیز فاش نشده است. با هر سیستم هوش مصنوعی جدید، آنها بدون اینکه مبدا یا مقصد خود را بدانند، ظرفیت های جدیدی ایجاد می کنند. در نتیجه، آینده ما اکنون دارای یک عنصر کاملاً جدید از رمز و راز، ریسک و شگفتی است.
علم روشنگری، قطعیات را انباشته نمود. اما هوش مصنوعی ابهامات تجمعی جدید ایجاد می کند. علم روشنگری با قابل توضیح ساختن اسرار و مشخص کردن مرزهای دانش و درک بشر در حین حرکت آنها تکامل یافت. بالواقع دو قوه پشت سر هم حرکت کردند: فهمیدن فرضیه عامل تبدیل شدن به دانش شد.و استنتاج نیزعامل تبدیل دانش به درک .اما در عصر هوش مصنوعی، معماها با فرآیندهایی حل می شوند که ناشناخته باقی می مانند. این پارادوکس سرگردان، اسرار را ناممکن و غیر قابل توضیح می نماید. ذاتاً، هوش مصنوعی بشری را افزایش میدهد، اما درک انسان را افزایش نمی‌دهد - پدیده‌ای که تقریباً برخلاف تمام عصرمدرنیته و روشنگری است. با این حال و در عین حال، هوش مصنوعی برای کشف ، هنگامی که با عقل انسانی همراه می‌شود، ابزاری قدرتمند تر از عقل انسانی به تنهایی می‌باشد.
بنابراین تفاوت اساسی بین عصر روشنگری و عصر هوش مصنوعی نه تکنولوژیکی بلکه شناختی است. پس از عصر روشنگری، فلسفه با علم همراه شد. داده‌های گیج‌کننده جدید و نتیجه‌گیری‌های غالباً غیرمنطقی، تردیدها و ناامنی‌ها با توضیحات جامع تجربیات بشری مرتفع گردید. هوش مصنوعی نیز به طور مشابه آماده است تا شکل جدیدی از آگاهی انسان را ایجاد نماید. با این حال، هنوز فرصت در رنگ‌هایی وجود دارد که طیفی برای آنها نداریم و در جهت‌هایی که برای آنها قطب‌نما نداریم. هیچ رهبری سیاسی یا فلسفی برای توضیح و هدایت این رابطه بدیع بین انسان و ماشین شکل نگرفته است و جامعه را نسبتاً بی بند و بار می گذارد.
ChatGPT نمونه ای از چیزی است که به عنوان یک مدل زبان بزرگ شناخته می شود که می تواند برای تولید متنی شبیه انسان استفاده شود. GPT نوعی مدل است که می‌توان آن را به‌طور خودکار از مقدار زیادی متن و بدون نیاز به نظارت انسان یاد گرفت. توسعه دهندگان ChatGPT مقدار زیادی از محتوای متنی دنیای دیجیتال را به آن تغذیه کرده اند. قدرت محاسباتی به مدل اجازه می دهد تا الگوها و اتصالات را ثبت کند.
مهم است که انسان ها اعتماد به نفس و توانایی به چالش کشیدن خروجی های سیستم های هوش مصنوعی را توسعه دهند. پزشکان نگران هستند که مدل‌های یادگیری عمیق که برای ارزیابی تصویربرداری پزشکی برای اهداف تشخیصی استفاده می‌شوند، در کنار سایر وظایف، ممکن است جایگزین عملکرد آنها شوند. در چه مرحله ای پزشکان دیگر احساس راحتی نمی کنند که از پاسخ هایی که نرم افزارشان به آنها می دهد سؤال کنند؟ همانطور که ماشین‌ها از نردبان توانایی‌های انسانی، از تشخیص الگو گرفته تا ترکیب منطقی تا تفکر چند بعدی، بالا می‌روند، ممکن است شروع به رقابت با عملکردهای انسانی در مدیریت دولتی، قانون و تاکتیک‌های تجاری کنند. در نهایت، چیزی شبیه به استراتژی ممکن است ظاهر شود. چگونه انسان‌ها می‌توانند بدون واگذاری بخش‌های اساسی استراتژی به ماشین‌ها، با هوش مصنوعی درگیر شوند؟ با چنین تغییراتی، دکترین های پذیرفته شده چه می شوند؟
ضروری است که ما یک دیالکتیک پیچیده را توسعه دهیم که به افراد قدرت دهد تا تعامل هوش مصنوعی مولد را به چالش بکشند، نه صرفاً برای توجیه یا توضیح پاسخ های هوش مصنوعی، بلکه برای بازجویی از آنها. با شک و تردید هماهنگ، ما باید بیاموزیم که هوش مصنوعی را به طور روشمند بررسی کنیم و ارزیابی کنیم که آیا و تا چه حد پاسخ های آن ارزش اعتماد دارند یا خیر. این امر مستلزم کاهش آگاهانه تعصبات ناخودآگاه ما، آموزش دقیق و تمرین فراوان است.
سوال که باقی می ماند: آیا می توانیم به اندازه کافی سریع یاد بگیریم که به جای اطاعت به چالش بکشیم؟ یا در نهایت موظف به تسلیم خواهیم بود؟ آیا آنچه ما اشتباهات را در نظر می گیریم بخشی از طراحی عمدی است؟ اگر عنصر بدخواهی در هوش مصنوعی ظاهر شود چه؟
ماشین‌ها بسیار سریع‌تر از ژن‌های ما تکامل می‌یابند و باعث جابجاشدگی داخلی و واگرایی بین‌المللی می‌شوند. ما باید به ویژه در فلسفه و مفهوم گرایی، در سطح ملی و جهانی، با ذکاوتی متناسب پاسخ دهیم. همانطور که امانوئل کانت سه قرن پیش پیش بینی کرد، باید هماهنگی جهانی یا از طریق ادراک یا با فاجعه پدیدار شود.
ما باید یک هشدار را برای این پیش بینی لحاظ کنیم: اگر این فناوری به طور کامل قابل کنترل نباشد چه اتفاقی می افتد؟ چه می‌شود اگر همیشه راه‌هایی برای تولید نادرست، تصاویر نادرست و ویدیوهای جعلی وجود داشته باشد و مردم هرگز یاد نگیرند که آنچه را که می‌بینند و می‌شنوند باور نکنند؟ به انسان ها از بدو تولد آموزش داده شده است که آنچه را که می بینیم و می شنویم باور کنند، و این ممکن است در عصرهوش مصنوعی دیگر درست نباشد. حتی اگر پلتفرم‌های بزرگ، طبق سفارش و مقررات، برای علامت‌گذاری و مرتب‌سازی محتوای بد سخت تلاش کنند، می‌دانیم که محتوای یک بار دیده نمی‌شود. توانایی مدیریت و کنترل محتوای توزیع شده در سطح جهانی به طور کامل یک مشکل جدی و حل نشده است.
پاسخ‌هایی که ChatGPT به این مسائل میدهد تنها به این معنا است که بیشتر سؤالات را بر می انگیزاند تا نتیجه‌گیری. در حال حاضر، ما یک دستاورد بدیع و دیدنی داریم که به عنوان یک هوش مصنوعی برای ذهن انسان باعث افتخار است. ما هنوز مقصدی برای آن ایجاد نکرده ایم. همانطور که به Homo technicus (انسانی که در همزیستی با تکنولوژی و ماشین ها زندگی می کند) تبدیل می‌شویم، تعریف هدف متعالی ، گونه‌های انسانی امری ضروری است. و این به ما بستگی دارد که پاسخ های واقعی را ارائه دهیم.
