کن مککالوم رئیس سازمان اطلاعات داخلی بریتانیا (MI5) روز پنجشنبه گفت که دستگاه های هوش مصنوعی که بدون کنترل انسان عمل میکنند، ممکن است روزی به یک تهدید امنیتی تبدیل شوند، هرچند تأکید کرد که قصد ندارد سناریوهای "آخرالزمانی فیلمهای علمیتخیلی را" پیشبینی کند.
رهبران حوزه فناوری پیشتر درباره خطرات هوش مصنوعی کنترلنشده هشدار دادهاند و گفتهاند که باید نگران آیندهای شبیه به «ترمیناتور» بود – مجموعه فیلمهایی که در آن یک سامانه هوش مصنوعی خودآگاه میشود و میکوشد بشریت را نابود کند.
کن مککالوم، رئیس MI5، در سخنرانی سالانهاش درباره تهدیدهای پیشروی بریتانیا گفت که سازمانهای امنیتی بریتانیا از هوش مصنوعی برای کارآمدتر شدن استفاده میکنند، در حالیکه تروریستها از آن برای تبلیغات و شناسایی اهداف بهره میبرند، و دولتهای متخاصم از آن برای دخالت در انتخابات و تقویت حملات سایبری استفاده میکنند.
او گفت: «اما در سال ۲۰۲۵، در حالیکه با تهدیدهای امروز مواجهیم، باید مرز بعدی را نیز بررسی کنیم: خطرات احتمالی آینده از سوی دستگاه های هوش مصنوعی غیرانسانی و خودمختار که ممکن است از نظارت و ادارۀ انسانها خارج شوند."
مککالوم افزود: "با توجه به خطر اغراق و ترساندن افکار عمومی، در انتخاب واژههایم دقت میکنم. من سناریوهای هالیوودی را پیشبینی نمیکنم... اما با پیشرفت مداوم تواناییهای هوش مصنوعی، طبیعی است که سازمانهایی مانند MI5 از همین حالا بهطور جدی بیندیشند که در سالهای آینده، 'دفاع از سرزمین' چگونه باید باشد."
او گفت: "هوش مصنوعی ممکن است هرگز بهطور ذاتی قصد آسیبزدن به ما را نداشته باشد، اما نادیدهگرفتن احتمال آسیبزایی آن کاری ناپخته و خطرناک است. ما در حال رسیدگی به این موضوع هستیم."