یادداشت مهمان - مرتضی عبدی، رئیس امور بینالملل مرکز وکلای قوه قضاییه: تحولات فناوری در دهه اخیر، چهره جنگ را دگرگون کرده است. اگر در گذشته قدرت نظامی با شمار تانکها، جنگندهها و موشکها سنجیده میشد، امروز برتری در میدان نبرد بیش از هر چیز به توانایی پردازش داده، تحلیل اطلاعات و بهرهگیری از هوش مصنوعی وابسته است. جنگهای نوین، پیش از آنکه در آسمان یا زمین آغاز شوند، در مراکز داده، سرورهای ابری و الگوریتمهای یادگیری ماشین شکل میگیرند.
در این میان، شرکتهای خصوصی فناوری دیگر صرفاً تولیدکننده تجهیزات یا ارائهدهنده خدمات فنی نیستند؛ بلکه به بازیگرانی اثرگذار در چرخه تصمیمسازی نظامی تبدیل شدهاند. شرکتهایی نظیر Palantir Technologies، Anduril Industries، Shield AI و شماری دیگر از پیمانکاران دفاعی، با توسعه سامانههای تحلیل کلانداده، تلفیق اطلاعات و هوش مصنوعی، در شکلدهی به آنچه نظامیان از آن با عنوان «زنجیره هدفگیری» (Kill Chain) یاد میکنند، نقشی فزاینده یافتهاند.
در این ساختار، هوش مصنوعی دادههای حاصل از ماهوارهها، پهپادها، سامانههای شنود، حسگرهای الکترونیکی، منابع انسانی و پایگاههای اطلاعاتی را در زمانی بسیار کوتاه تجزیه و تحلیل کرده و اهداف احتمالی را برای فرماندهان اولویتبندی میکند. هرچند تصمیم نهایی برای حمله، بنا بر موضع رسمی بسیاری از شرکتها از جمله پالانتیر، باید توسط انسان اتخاذ شود، اما نمیتوان انکار کرد که کیفیت و جهت تصمیم انسانی تا حد زیادی متأثر از خروجی همین الگوریتمهاست.
از همین نقطه، یکی از مهمترین پرسشهای حقوق بینالملل معاصر شکل میگیرد: اگر یک الگوریتم در انتخاب یا اولویتبندی هدف نقشی تعیینکننده داشته باشد و آن عملیات به نقض حقوق بینالملل بشردوستانه بینجامد، مسئولیت حقوقی متوجه چه کسی خواهد بود؟
این پرسش دیگر صرفاً نظری نیست. در جریان درگیریهای اخیر در خاورمیانه، گزارشهای متعددی درباره استفاده گسترده از سامانههای مبتنی بر هوش مصنوعی در فرآیند شناسایی و تحلیل اهداف منتشر شده است. همچنین همکاری رسمی پالانتیر با وزارت دفاع اسرائیل در حوزه فناوریهای داده و هوش مصنوعی از سوی شرکت اعلام شده است. با این حال، انتساب نقش مستقیم این شرکت در حملات مشخص، از جمله عملیات منتسب به آمریکا و اسرائیل علیه ایران، یا در حوادثی نظیر حمله به اهداف غیرنظامی، تاکنون در هیچ مرجع قضایی بینالمللی به اثبات نرسیده است. از اینرو، هرگونه تحلیل حقوقی باید این تمایز بنیادین میان «گزارشهای رسانهای» و «مسئولیت اثباتشده» را حفظ کند.
با وجود این، حتی اگر فرض شود که یک شرکت خصوصی صرفاً ابزار تحلیل اطلاعات را فراهم کرده است، این واقعیت بهتنهایی نمیتواند آن را از هرگونه مسئولیت حقوقی مصون سازد. حقوق بینالملل بشردوستانه، بهویژه اصول بنیادین تفکیک، تناسب، احتیاط در حمله و ضرورت نظامی که در کنوانسیونهای ژنو ۱۹۴۹ و پروتکل الحاقی اول ۱۹۷۷ تثبیت شدهاند، بر تمامی ابزارها و روشهای جنگ حکومت میکنند؛ خواه این ابزار یک جنگنده باشد یا یک الگوریتم هوش مصنوعی.
از منظر حقوق بینالملل، هوش مصنوعی نه شخصیت حقوقی دارد و نه میتواند مرتکب جرم شود. مسئولیت همچنان بر عهده انسانها باقی میماند؛ اعم از فرماندهان نظامی، مقامات دولتی و در شرایط خاص، مدیران و تصمیمگیرندگان شرکتهایی که با علم و آگاهی، فناوری یا خدماتی را در اختیار عملیات ناقض حقوق بینالملل قرار داده و در تحقق آن نقشی مؤثر ایفا کردهاند.
ماده ۳۶ پروتکل الحاقی اول نیز دولتها را مکلف میکند پیش از بهکارگیری هر سلاح، وسیله یا روش جدید جنگی، انطباق آن را با قواعد حقوق بینالملل بررسی کنند. امروزه بسیاری از حقوقدانان معتقدند که سامانههای هوش مصنوعی نظامی نیز مشمول همین الزام هستند و نمیتوان آنها را صرفاً «نرمافزار» تلقی کرد.
از سوی دیگر، اصول راهنمای سازمان ملل درباره کسبوکار و حقوق بشر (UN Guiding Principles on Business and Human Rights) تصریح میکنند که شرکتهای خصوصی، مستقل از تعهدات دولتها، موظف به احترام به حقوق بشر و انجام ارزیابیهای مستمر برای پیشگیری از مشارکت در نقضهای جدی هستند. اگر شرکتی با آگاهی از خطرات قابل پیشبینی، فناوری خود را در اختیار عملیاتی قرار دهد که به ارتکاب جنایات بینالمللی منتهی شود، این پرسش مطرح خواهد شد که آیا صرف استناد به «بیطرفی فناوری» میتواند مسئولیت آن را منتفی سازد؟
هرچند دیوان کیفری بینالمللی تنها نسبت به اشخاص حقیقی صلاحیت دارد و نه شرکتها، اما این امر به معنای مصونیت مدیران شرکتهای فناوری نیست. در صورت احراز عناصر قانونی، امکان بررسی مسئولیت اشخاص حقیقی از منظر مشارکت، معاونت یا کمک و تسهیل آگاهانه در ارتکاب جنایات بینالمللی بر اساس ماده ۲۵ اساسنامه رم وجود دارد.
افزون بر این، رویه دادگاه نورنبرگ در پروندههای مربوط به صنایع IG Farben و Krupp و نیز آرای دادگاه کیفری بینالمللی یوگسلاوی سابق در پروندههایی مانند Furundžija و Tadić نشان دادهاند که حمایت مؤثر از ارتکاب جنایات میتواند زمینهساز مسئولیت کیفری اشخاص باشد، هرچند این رویهها مستقیماً درباره هوش مصنوعی نبودهاند.
امروز بزرگترین چالش حقوقی، آن چیزی است که در ادبیات حقوقی با عنوان «شکاف مسئولیت» (Responsibility Gap) شناخته میشود. هنگامی که تصمیم نهایی محصول تعامل میان الگوریتم، تحلیلگر، فرمانده و سامانههای خودکار است، تعیین اینکه دقیقاً چه کسی مسئول پیامدهای غیرقانونی عملیات است، بهمراتب دشوارتر از گذشته خواهد بود. اگر این شکاف با قواعد روشن حقوقی پر نشود، بیم آن میرود که در آینده، فناوری به ابزاری برای گریز از پاسخگویی تبدیل شود.
واقعیت آن است که جنگهای آینده نهتنها در میدان نبرد، بلکه در دادگاهها نیز سرنوشت خود را رقم خواهند زد. همانگونه که حقوق بینالملل پس از جنگ جهانی دوم ناگزیر شد قواعد تازهای برای مسئولیت فرماندهان و دولتها تدوین کند، امروز نیز در آستانه شکلگیری نسل جدیدی از قواعد قرار دارد که دامنه پاسخگویی را به شرکتهای فناوری، توسعهدهندگان سامانههای هوش مصنوعی و طراحان الگوریتمهای نظامی گسترش خواهد داد.
شاید مهمترین پرسش حقوقی عصر هوش مصنوعی دیگر این نباشد که «چه کسی دکمه شلیک را فشرد؟»؛ بلکه این باشد که چه کسی الگوریتمی را طراحی کرد که مسیر رسیدن انگشت انسان به آن دکمه را تعیین کرد؟ این پرسش، بیتردید یکی از بنیادیترین چالشهای حقوق بینالملل در دهههای پیش رو خواهد بود.
