ناظران بریتانیا "مصرف‌کنندگان را در معرض آسیب جدی قرار می‌دهند" همزمان با گسترش شکاف‌های نظارت بر هوش مصنوعی — کمیته هشدار می‌دهد

نهادهای نظارتی در بریتانیا هشدار داده‌اند که رویکرد فعلی آن‌ها نسبت به هوش مصنوعی در خدمات مالی ممکن است مصرف‌کنندگان را در معرض آسیب‌های جدی قرار دهد، زیرا با رشد سریع‌تر هوش مصنوعی در این صنعت، خلأهای نظارتی افزایش می‌یابد.

کمیته انتخاب خزانه‌داری این هشدار را صادر کرده و اعلام کرده است که بانک انگلستان، مرجع رفتار مالی و خزانه‌داری بیش از حد به استراتژی انتظار و مشاهده تکیه کرده‌اند، در حالی که هوش مصنوعی در قلب تصمیم‌گیری‌های مالی قرار دارد.

در گزارشی که در 1403/10/30 منتشر شد، کمیته اعلام کرد که سرعت پذیرش هوش مصنوعی از توانایی نهادهای نظارتی برای مدیریت ریسک‌های آن پیشی گرفته است.

تقریباً 75٪ از شرکت‌های خدمات مالی در بریتانیا در حال حاضر از هوش مصنوعی استفاده می‌کنند، با بیشترین میزان پذیرش در میان شرکت‌های بیمه و بانک‌های بزرگ جهانی.

اگرچه نمایندگان مجلس اذعان کردند که هوش مصنوعی قادر است بهره‌وری را افزایش دهد، خدمات مشتری را تسریع کند و دفاع‌های سایبری را تقویت کند، آن‌ها نتیجه گرفتند که همه اینها توسط ریسک‌های رفع نشده برای مصرف‌کنندگان و ثبات مالی به خطر افتاده است.

قانون‌گذاران می‌گویند رویکرد بریتانیا به هوش مصنوعی در امور مالی بیش از حد واکنشی است

در حال حاضر، هیچ قانون خاصی برای هوش مصنوعی در خدمات مالی در بریتانیا وجود ندارد. در عوض، نهادهای نظارتی از قوانین از پیش موجود استفاده می‌کنند و ادعا می‌کنند که آن‌ها به اندازه کافی انعطاف‌پذیر هستند تا فناوری‌های جدید را شامل شوند.

مرجع رفتار مالی به وظیفه مصرف‌کننده و رژیم مدیران ارشد و صدور گواهینامه به عنوان حفاظت کافی اشاره کرده است، در حالی که بانک انگلستان گفته است نقش آن پاسخگویی در زمان بروز مشکلات است تا تنظیم مقررات پیشگیرانه برای هوش مصنوعی.

کمیته این موضع را رد کرد و گفت که این امر مسئولیت بیش از حد زیادی بر عهده شرکت‌ها می‌گذارد تا قوانین پیچیده را به تنهایی تفسیر کنند.

تصمیمات مبتنی بر هوش مصنوعی در اعتبار و بیمه اغلب مبهم هستند و درک یا به چالش کشیدن نتایج را برای مشتریان دشوار می‌کنند.

تطبیق خودکار محصول می‌تواند حذف مالی را عمیق‌تر کند، به ویژه برای گروه‌های آسیب‌پذیر. مشاوره مالی غیرقانونی تولید شده توسط ابزارهای هوش مصنوعی خطر گمراه کردن کاربران را دارد، در حالی که استفاده از هوش مصنوعی توسط مجرمان می‌تواند کلاهبرداری را افزایش دهد.

کمیته گفت که این مسائل فرضی نیستند و به بیش از نظارت پس از وقوع نیاز دارند.

نهادهای نظارتی اقدامات برداشته‌اند، از جمله ایجاد یک کنسرسیوم هوش مصنوعی و طرح‌های آزمایشی داوطلبانه مانند تست زنده هوش مصنوعی مرجع رفتار مالی و Sandbox تقویت شده.

با این حال، نمایندگان مجلس گفتند که این ابتکارات تنها به تعداد کمی از شرکت‌ها می‌رسند و وضوح مورد نیاز بازار گسترده‌تر را فراهم نمی‌کنند.

شرکت‌کنندگان صنعت به کمیته گفتند که رویکرد فعلی واکنشی است و شرکت‌ها را در مورد پاسخگویی، به ویژه زمانی که سیستم‌های هوش مصنوعی به شیوه‌ای غیرقابل پیش‌بینی رفتار می‌کنند، با عدم اطمینان روبرو می‌کند.

ریسک‌های هوش مصنوعی افزایش می‌یابد زیرا نهادهای نظارتی بریتانیا در آزمایش و نظارت عقب هستند

گزارش همچنین نگرانی‌هایی در مورد ثبات مالی را مطرح کرد، زیرا هوش مصنوعی می‌تواند ریسک‌های سایبری را تقویت کند، وابستگی عملیاتی را بر تعداد کمی از ارائه‌دهندگان رایانش ابری مستقر در ایالات متحده متمرکز کند و رفتار گله‌ای را در بازارها تشدید کند.

با وجود این، نه مرجع رفتار مالی و نه بانک انگلستان در حال حاضر تست‌های استرس ویژه هوش مصنوعی را اجرا نمی‌کنند. اعضای کمیته سیاست مالی بانک گفتند که چنین آزمایشی می‌تواند ارزشمند باشد، اما هیچ برنامه زمانی تعیین نشده است.

اتکا به ارائه‌دهندگان فناوری شخص ثالث تمرکز دیگری بود.

اگرچه پارلمان در سال 2023 رژیم اشخاص ثالث حیاتی را برای دادن نظارت به نهادهای نظارتی بر شرکت‌های ارائه‌دهنده خدمات ضروری ایجاد کرد، هیچ ارائه‌دهنده بزرگ هوش مصنوعی یا ابری هنوز تعیین نشده است.

این تاخیر علیرغم قطعی‌های برجسته، از جمله اختلال Amazon Web Services در مهر 1404 که بانک‌های بزرگ بریتانیا را تحت تأثیر قرار داد، ادامه دارد.

کمیته گفت که راه‌اندازی کند این رژیم، سیستم مالی را در معرض خطر باقی می‌گذارد.

این یافته‌ها در حالی منتشر می‌شوند که بریتانیا به ترویج یک استراتژی هوش مصنوعی حامی نوآوری و مبتنی بر اصول با هدف حمایت از رشد و در عین حال اجتناب از مقررات سخت‌گیرانه ادامه می‌دهد.

دولت از این موضع از طریق ابتکاراتی مانند برنامه اقدام فرصت‌های هوش مصنوعی و موسسه ایمنی هوش مصنوعی حمایت کرده است.

با این حال، نمایندگان مجلس گفتند که جاه‌طلبی باید با اقدام همراه باشد.