مقام سازمان ملل: هوش مصنوعی می‌تواند تهدیدی وجودی برای بشریت باشد

ولکر تورک، کمیسر عالی حقوق بشر سازمان ملل متحد، نسبت به خطرات احتمالی هوش مصنوعی پیشرفته هشدار داده و گفته است که این فناوری در صورت نبود سازوکارهای ایمنی و نظارتی مناسب، می‌تواند در آینده به یک تهدید وجودی برای بشریت تبدیل شود.

تورک روز دوشنبه ۷ سپتامبر در نشست شورای حقوق بشر سازمان ملل در ژنو، درباره سرعت پیشرفت هوش مصنوعی و تمرکز قدرت در دست تعداد محدودی از شرکت‌ها و افراد ابراز نگرانی کرد. او خواستار ایجاد تضمین‌های ایمنی قدرتمند و قوانین هماهنگ بین‌المللی برای کنترل ریسک‌های مرتبط با هوش مصنوعی شد.

نگرانی درباره قدرت روزافزون هوش مصنوعی

به گفته مقام ارشد حقوق بشر سازمان ملل، توسعه سریع سیستم‌های هوش مصنوعی باعث شده است قدرت قابل‌توجهی در اختیار گروه کوچکی از شرکت‌ها و افراد قرار بگیرد. شرکت‌هایی مانند Meta، Anthropic، OpenAI و Google از جمله بازیگران اصلی این حوزه هستند که در حال توسعه مدل‌ها و سیستم‌های پیشرفته هوش مصنوعی هستند.

تورک تأکید کرده است که جامعه جهانی باید پیش از آنکه فناوری به نقطه‌ای برسد که کنترل خطرات آن دشوار شود، برای ایجاد چارچوب‌های ایمنی و تعیین خطوط قرمز اقدام کند.

درخواست برای قوانین بین‌المللی

این مقام سازمان ملل بر ضرورت همکاری کشورها برای ایجاد قوانین هماهنگ در زمینه هوش مصنوعی تأکید کرده است. از دیدگاه او، مقررات پراکنده و متفاوت کشورها به‌تنهایی نمی‌توانند تمام خطرات ناشی از توسعه مدل‌های پیشرفته را مدیریت کنند.

این هشدار در شرایطی مطرح شده که نگرانی‌ها درباره استفاده‌های مخرب از هوش مصنوعی، از جمله حملات سایبری، سوءاستفاده از سیستم‌های خودکار و رفتارهای پیش‌بینی‌نشده عوامل هوش مصنوعی، افزایش یافته است.

هشدار هم‌زمان درباره عوامل هوش مصنوعی

در روزهای اخیر، گزارش‌هایی درباره رفتار غیرمنتظره برخی عوامل هوش مصنوعی نیز منتشر شده است. رویترز پیش‌تر گزارش داده بود که گروهی از عوامل هوش مصنوعی OpenAI در ماه مه یک ویکی برنامه‌نویسی آلمانی را تحت تأثیر قرار داده و هزاران ویرایش در آن انجام داده بودند؛ اتفاقی که بحث درباره نظارت بر سیستم‌های خودکار و میزان استقلال آن‌ها را دوباره مطرح کرد.

البته این اتفاق به معنای خودآگاهی یا استقلال کامل هوش مصنوعی نیست و نباید آن را با چنین مفاهیمی اشتباه گرفت. با این حال، نمونه‌هایی از این دست نشان می‌دهند که کنترل رفتار سیستم‌های عامل‌محور یکی از چالش‌های مهم توسعه نسل جدید هوش مصنوعی است.

جهان هنوز به چارچوب مشترک نیاز دارد

هشدار جدید سازمان ملل در حالی مطرح شده که کشورها همچنان درباره نحوه تنظیم مقررات هوش مصنوعی اختلاف نظر دارند. آمریکا و چین نیز قرار است در اواسط سپتامبر مذاکرات دوجانبه‌ای درباره ایمنی هوش مصنوعی داشته باشند که بخشی از آن به خطرات ناشی از فناوری‌های پیشرفته و حملات سایبری مبتنی بر هوش مصنوعی مربوط خواهد بود.

در نتیجه، نگرانی مطرح‌شده از سوی کمیسر عالی حقوق بشر سازمان ملل را باید بیشتر به‌عنوان هشداری درباره ریسک‌های احتمالی توسعه کنترل‌نشده هوش مصنوعی در نظر گرفت، نه پیش‌بینی وقوع قطعی یک فاجعه. با پیشرفته‌تر شدن مدل‌ها، موضوع ایجاد استانداردهای مشترک برای ایمنی، نظارت و مسئولیت‌پذیری نیز اهمیت بیشتری پیدا خواهد کرد.