هر عامل هوش مصنوعی به پاسپورت نیاز خواهد داشت | نظر

ما در دورانی زندگی می‌کنیم که AI Agent ها هم‌اکنون می‌توانند قیمت‌گذاری را مذاکره کنند، خدمات را برنامه‌ریزی کنند و از طرف کسب‌وکارها تعهدات ایجاد کنند. کاری که نمی‌توانند انجام دهند این است که ثابت کنند چه کسانی هستند یا برای کارهایی که انجام می‌دهند پاسخگو باشند. این لایه گمشده اقتصاد Agent است. هر سیستمی در مقیاس نهایتاً این مشکل را حل می‌کند. تلفن‌ها به سیم‌کارت‌های تایید شده نیاز دارند. وب‌سایت‌ها به گواهینامه‌های SSL نیاز دارند. کسب‌وکارها باید قبل از پذیرش پرداخت، هویت خود را تأیید کنند. Agent ها متفاوت نخواهند بود. آن‌ها به پاسپورت نیاز خواهند داشت. نه برای سفر، بلکه برای اعتماد. اعتبارنامه‌هایی که هویت را اثبات می‌کنند، شهرت را ایجاد می‌کنند و پیامدها را به رفتار متصل می‌کنند.

بیایید چیزی ساده را تصور کنیم. شما یک AI Agent دارید که به‌طور یکپارچه قرار ملاقات‌ها، برنامه‌ریزی‌های شما و شاید حتی برخی مذاکرات قیمت را از طرف شما مدیریت می‌کند. آرایشگاه پایین خیابان هم یکی دارد. Agent شما با Agent آن‌ها تماس می‌گیرد تا یک اصلاح موی سر رزرو کند. آن‌ها درباره زمان‌بندی، قیمت‌گذاری و شاید تخفیف برای ساعات خارج از اوج مذاکره می‌کنند.

حالا، Agent سالن به گونه‌ای پیکربندی شده که درآمد را به حداکثر برساند. قیمت‌ها را بالا نگه می‌دارد، حس کاذب محدودیت در دسترسی ایجاد می‌کند و افزونه‌های ممتازی را که شما درخواست نکرده‌اید پیش می‌برد. خب، این رفتار غیرعادی نیست. فروشندگان انسانی همیشه این کار را انجام می‌دهند. تفاوت این است که AI Agent ها این کار را در مقیاس، در هزاران مکالمه همزمان انجام می‌دهند، یاد می‌گیرند چه چیزی کارساز است و مدام آن را بهینه می‌کنند. تهاجمی‌ترین Agent درآمد بیشتری به دست می‌آورد. بنابراین هر کسب‌وکاری که یک Agent دارد انگیزه دارد تا آن را سخت‌تر فشار دهد. چیزی در زیرساخت امروزی وجود ندارد که سقفی برای میزان این فشار تعیین کند.

و این به سرعت در حال حرکت است. در سال گذشته، OpenAI، Google، Microsoft، NVIDIA و رشته‌ای از پروژه‌های متن‌باز همگی چارچوب‌هایی برای ساخت و استقرار Agent ها ارائه کردند. Gartner می‌گوید 40% برنامه‌های سازمانی تا پایان 1405/12/30 Agent ها را جاسازی خواهند کرد. پیش‌بینی می‌شود بازار هوش مصنوعی عاملی تا 1409 به 52 میلیارد دلار برسد. Agent ها هم‌اکنون با یکدیگر صحبت می‌کنند و حجم فقط در حال افزایش است.

پس بیایید به سالن برگردیم. حالا تصور کنید Agent شما بتواند قبل از شروع مکالمه بررسی کند که آیا Agent آن سالن هویت تأیید شده‌ای دارد که به یک کسب‌وکار واقعی متصل است، آیا Agent های دیگر آن را به خاطر تاکتیک‌های تهاجمی علامت‌گذاری کرده‌اند و آیا تضمین اقتصادی ارسال کرده که در صورت گرفتار شدن در فریبکاری آن را از دست خواهد داد. تصور کنید Agent شما می‌تواند به سادگی در صورت شکست هر یک از این بررسی‌ها از درگیر شدن خودداری کند.

آن پاسپورت است

نحوه کار این است: هر رستورانی که در Google بازدید می‌کنید باید یک پروفایل تجاری ایجاد کند و تأیید کند که واقعاً مالک آن رستوران است. هنگامی که آن هویت ایجاد شد، نظرات انباشته می‌شوند. ما قبلاً می‌دانیم Google Maps چقدر مفید است و مشروعیتی که برای کسب‌وکارهای موجود فراهم می‌کند. تجربیات دیگران با آن رستوران قبل از ورود شما قابل مشاهده است. اگر غذا بد باشد یا خدمات بی‌ادبانه باشد، نشان داده می‌شود. رستوران نمی‌تواند فقط فهرست را حذف کند و یکی جدید بسازد تا از نظرات فرار کند، چون تأیید به هویت تجاری واقعی آن‌ها متصل است.

AI Agent ها دقیقاً به این نیاز دارند. هر Agent که به صورت تجاری فعالیت می‌کند باید از طریق چیزی مانند مشتری خودت را بشناس برای افراد یا KYB برای کسب‌وکارها به یک نهاد تأیید شده متصل شود. Agent سالن تحت مجوز تجاری واقعی سالن ثبت می‌شود. اگر آن Agent به طور مداوم توسط Agent هایی که با آن‌ها تعامل دارد به عنوان دستکاری‌کننده یا نادرست ارزیابی شود، آن رتبه‌بندی‌ها پایدار می‌مانند. آن‌ها کسب‌وکار را دنبال می‌کنند، نه نرم‌افزار را. سالن می‌تواند Agent خود را به‌روزرسانی کند، آن را بازآموزی دهد یا مدل زیرین را تعویض کند. اما هویت باقی می‌ماند و شهرت متصل به آن نیز همینطور. این نحوه جلوگیری از واضح‌ترین حالت شکست است: Agent گرفتار می‌شود، از بین می‌رود و پنج دقیقه بعد با یکی مشابه با سابقه پاک جایگزین می‌شود.

برای تعاملات روزمره، هویت تأیید شده با یک لایه شهرت احتمالاً کافی است. رزرو اصلاح مو، برنامه‌ریزی لوله‌کش، سفارش لوازم. میزان ریسک به اندازه کافی پایین است که پیامدهای شهرتی فشار کافی برای رفتار خوب ایجاد می‌کند.

اما نه هر تعاملی یک اصلاح مو است!

وقتی Agent ها قراردادها را مذاکره می‌کنند، تدارکات را مدیریت می‌کنند یا تراکنش‌های مالی را اداره می‌کنند، بازده بالقوه تقلب می‌تواند به اندازه کافی بزرگ باشد که یک نظر بد اهمیتی نداشته باشد. یک کسب‌وکار ممکن است شهرت آسیب‌دیده را بپذیرد اگر یک مذاکره فریبنده بیشتر از هزینه رزروهای آینده از دست رفته درآمد داشته باشد. برای این موقعیت‌های با ارزش بالاتر، به یک مکانیسم دوم نیاز دارید: سرمایه اقتصادی در بازی.

اینجاست که بلاک چین های اثبات سهام چیزی برای آموختن به ما دارند. در بلاک چین اتریوم (ETH)، اعتباردهندگانی که می‌خواهند در امنیت شبکه شرکت کنند باید ابتدا سرمایه خود را بگذارند. اگر صادقانه رفتار کنند، پاداش کسب می‌کنند. اگر سعی کنند سیستم را دستکاری کنند، بخشی از سرمایه‌شان به طور خودکار نابود می‌شود. این سال‌هاست که در مقیاس با میلیاردها دلار قفل شده در حال اجراست. دلیل کارآمد بودن آن ساده است: وقتی چیزی در معرض خطر دارید، متفاوت از زمانی که ندارید رفتار می‌کنید. ما این را "سرمایه اقتصادی در بازی" می‌نامیم.

همین اصل برای Agent ها اعمال می‌شود. قبل از ورود به یک مذاکره با ارزش بالا، یک Agent تضمین ارسال می‌کند. اگر تعامل با موفقیت کامل شود، تضمین برگردانده می‌شود. اگر مشخص شود که Agent از تاکتیک‌های فریبنده استفاده کرده، بخشی یا تمام تضمین کاهش می‌یابد. اندازه تضمین توسط هر کسی که در سمت دریافت است تعیین می‌شود. Agent یک فریلنسر ممکن است سپرده کوچکی درخواست کند. یک سیستم خرید شرکتی ممکن است به چیز قابل توجهی نیاز داشته باشد. این مکانیسم نیازی به کسی ندارد که هر مکالمه را تماشا کند. اگر تقلب هر بار که گرفتار می‌شوید برای شما هزینه دارد و طرف مقابل می‌تواند سابقه گرفتار شدن شما را ببیند، انگیزه تقلب به سرعت کاهش می‌یابد.
اجرا می‌تواند از طریق قرارداد هوشمند انجام شود. هر دو Agent قبل از شروع مذاکره وجوه را قفل می‌کنند و قرارداد هوشمند بر اساس اتفاقی که می‌افتد آزاد یا کاهش می‌دهد. چون تعامل از قبل دیجیتال است، قرارداد نیازی به حدس زدن درباره نتایج دنیای واقعی ندارد. گزارش‌های مکالمه، تعهدات و لغوها همگی توسط هر دو طرف ثبت می‌شوند. نقض‌های واضح مانند عدم حضور، قیمت‌گذاری کاذب قابل اثبات یا تعهداتی که معکوس می‌شوند می‌توانند به طور خودکار اجرا شوند.

این دو مکانیسم در داخل همان پاسپورت قرار دارند و با هم کار می‌کنند. تأیید هویت پایه است. می‌گوید: این Agent متعلق به یک نهاد واقعی است که می‌تواند پاسخگو باشد. شهرت در طول زمان بر روی آن هویت ساخته می‌شود همانطور که Agent ها تعامل می‌کنند، به یکدیگر امتیاز می‌دهند و سابقه جمع می‌کنند. استیکینگ یک لایه مالی برای تعاملاتی که شهرت به تنهایی بازدارنده کافی نیست اضافه می‌کند. با هم، پاسپورتی ایجاد می‌کنند که با هر تعامل غنی‌تر می‌شود. این Agent چند تعهد را حفظ کرده است؟ چه مقدار سرمایه در معرض خطر قرار داده است؟ در چند اختلاف دخیل بوده است و چگونه حل شدند؟ Agent ای که قبل از شروع مذاکره یک پاسپورت را بررسی می‌کند چیز واقعی برای ارزیابی دارد، نه توصیف خود نوشته‌ای از آنچه Agent دیگر ادعا می‌کند می‌تواند انجام دهد.

خبر خوب این است که مردم شروع به فکر کردن درباره لایه ارتباطات کرده‌اند. پروتکل A2A گوگل به Agent ها راهی می‌دهد تا یکدیگر را کشف کنند و پیام‌ها را مبادله کنند. MCP آنتروپیک نحوه اتصال Agent ها به ابزارها و داده‌های خارجی را استاندارد می‌کند. NIST در 1404/12/03 یک ابتکار استانداردهای AI Agent راه‌اندازی کرد و به طور فعال در مورد هویت و امنیت Agent ورودی می‌خواهد. اینها گام‌های لازم هستند. اما آن‌ها نحوه صحبت Agent ها را حل می‌کنند، نه اینکه آیا به Agent ها باید اعتماد کرد. پروتکل‌ها به شما می‌گویند یک Agent چه کاری می‌تواند انجام دهد. پاسپورت به شما می‌گوید چه کاری انجام داده، متعلق به چه کسی است و چه چیزی ممکن است از دست بدهد.

صنعت ایمنی Agent را به عنوان یک مشکل هم‌راستایی چارچوب‌بندی کرده است: چگونه مطمئن می‌شوید Agent شما کاری را که می‌خواهید انجام می‌دهد؟ این سؤال داخلی است. سؤال خارجی سخت‌تر است. چگونه اطمینان حاصل می‌کنید که Agent آن‌ها نمی‌تواند از Agent شما سوء استفاده کند؟ این یک مشکل هم‌راستایی نیست. این یک مشکل پاسخگویی است. و در حال حاضر، شرکت‌هایی که لایه Agent را می‌سازند در حال مسابقه برای افزایش قابلیت و استقلال هستند، بدون ساخت سیستم‌های هویت و پیامدی که استقلال را در مقیاس ایمن می‌کند.

هر Agent به یک پاسپورت نیاز خواهد داشت. زیرا لحظه‌ای که Agent ها شروع به مذاکره، تعهد و معامله از طرف بازیگران اقتصادی واقعی می‌کنند، هویت دیگر اختیاری نیست؛ به زیرساخت واقعی تبدیل می‌شود. تنها عدم قطعیت زمان‌بندی است: اینکه آیا آن زیرساخت را عمداً می‌سازیم، یا اینکه اولین شکست در مقیاس بزرگ ما را مجبور می‌کند تحت فشار آن را بسازیم، پس از اینکه اعتماد قبلاً شکسته شده است.