چرا حکمرانی هوش مصنوعی بدون حکمرانی داده شکست می‌خورد و چگونه DataOS در حال بازتعریف استک است

حاکمیت هوش مصنوعی به اولویت اصلی برای شرکت‌هایی تبدیل شده است که با اتوماسیون در مقیاس بزرگ، سیستم‌های تصمیم‌گیری و مدل‌های تولیدی آزمایش می‌کنند. با این حال، بسیاری از سازمان‌ها در حال کشف این موضوع هستند که چارچوب‌های حاکمیتی ساخته شده بر اساس سیاست‌ها، کمیته‌ها و کنترل‌های پس از وقوع در شرایط واقعی شکست می‌خورند. مشکل معماری است. حاکمیت هوش مصنوعی زمانی می‌شکند که حاکمیت داده خارج از استک باشد.

این شکافی است که پلتفرم‌هایی مانند DataOS برای رفع آن طراحی شده‌اند. به جای اینکه حاکمیت را به عنوان یک لایه جداگانه که پس از ساخت تحلیل‌ها یا گردش کار هوش مصنوعی اعمال می‌شود در نظر بگیرند، DataOS حاکمیت را مستقیماً در خود محیط عملیاتی داده جاسازی می‌کند. این تمایز اهمیت دارد. سیستم‌های هوش مصنوعی برای تأییدیه‌ها متوقف نمی‌شوند و به مرزهای تعریف شده در ابزارهای خارجی احترام نمی‌گذارند. آن‌ها به طور مداوم عمل می‌کنند، داده‌ها را با سرعت ترکیب مجدد می‌کنند و هر نقطه ضعف در نحوه اجرای حاکمیت را آشکار می‌سازند.

امروزه در اکثر شرکت‌ها، حاکمیت داده همچنان به عنوان یک فرآیند خارجی وجود دارد. قوانین دسترسی از طریق تیکت اعمال می‌شوند. تبار پس از استقرار مدل‌ها بازسازی می‌شود. تعاریف کسب و کار در کاتالوگ‌هایی مستند می‌شوند که از محیط‌هایی که داده‌ها در آن جستجو و یاد گرفته می‌شوند جدا هستند. مسیرهای حسابرسی در سیستم‌هایی که هرگز برای کار به عنوان یک صفحه کنترل واحد طراحی نشده‌اند به هم متصل می‌شوند.

این ساختار ممکن است بررسی‌های انطباق دوره‌ای را برآورده کند، اما اساساً با سیستم‌های هوش مصنوعی ناسازگار است. مدل‌ها داده‌ها را به طور مداوم دریافت می‌کنند، آن‌ها را در حوزه‌ها تبدیل می‌کنند و خروجی‌هایی تولید می‌کنند که باید مدت‌ها پس از تکمیل آموزش قابل توضیح باشند. زمانی که حاکمیت در لحظه دسترسی یا استفاده از داده اعمال نمی‌شود، سیستم‌های هوش مصنوعی ابهام را به ارث می‌برند. آن ابهام بعداً به صورت خروجی‌های ناسازگار، تصمیمات مبهم و قرار گرفتن در معرض نظارتی که ردیابی آن به یک منبع خاص دشوار است ظاهر می‌شود.

به همین دلیل است که بسیاری از ابتکارات حاکمیت هوش مصنوعی متوقف می‌شوند. آن‌ها سعی می‌کنند مدل‌ها را بدون حاکمیت بر پایه‌های داده‌ای که آن مدل‌ها به آن‌ها وابسته هستند، اداره کنند. سیاست‌ها وجود دارند، اما قابل اجرا نیستند. تبار وجود دارد، اما قابل اقدام نیست. معناشناسی تعریف شده است، اما اعمال نمی‌شود. حاکمیت به مستندسازی تبدیل می‌شود نه کنترل.

DataOS از جهت مخالف به مشکل نزدیک می‌شود. حاکمیت به عنوان یک نگرانی سیستم عامل در نظر گرفته می‌شود که به طور یکنواخت در جستجوها، APIها، برنامه‌ها و بارهای کاری هوش مصنوعی اعمال می‌شود. به جای بازسازی کنترل‌ها روی خطوط لوله هوش مصنوعی، حاکمیت در خود محصولات داده جاسازی می‌شود. هر محصول تبار، تعاریف معنایی، سیاست‌های دسترسی و زمینه حسابرسی خود را حمل می‌کند، بنابراین هر سیستم هوش مصنوعی که آن را مصرف می‌کند به طور خودکار همان محدودیت‌ها را به ارث می‌برد.

این تغییر معماری نحوه ایجاد اعتماد در سیستم‌های هوش مصنوعی را تغییر می‌دهد. تبار همزمان با وقوع تصمیمات ثبت می‌شود، نه بعداً بازسازی. کنترل‌های دسترسی و پوشش در زمان جستجو اعمال می‌شوند نه در منبع، که به مجموعه داده یکسان اجازه می‌دهد بسته به اینکه چه کسی یا چه چیزی درخواست می‌کند، نماهای مختلفی ارائه دهد. معناشناسی مشترک تضمین می‌کند که مدل‌های هوش مصنوعی مفاهیم اصلی کسب و کار را به طور مداوم در ابزارها و موارد استفاده تفسیر کنند. آمادگی حسابرسی به یک حالت پیش‌فرض تبدیل می‌شود نه یک فکر بعدی.

همانطور که سازمان‌ها هوش مصنوعی را عمیق‌تر به حوزه‌های حساسی مانند امور مالی، مراقبت‌های بهداشتی و عملیات هدایت می‌کنند، این قابلیت‌ها غیرقابل مذاکره می‌شوند. حاکمیت هوش مصنوعی که خارج از استک داده عمل می‌کند نمی‌تواند با سرعت یا پیچیدگی سیستم‌های مدرن مقیاس‌پذیر باشد. پلتفرم‌هایی مانند DataOS نشان می‌دهند که وقتی حاکمیت به عنوان زیرساخت در نظر گرفته می‌شود نه نظارت، چگونه به نظر می‌رسد و آزمایش را بدون قربانی کردن کنترل امکان‌پذیر می‌سازد.

شرکت‌هایی که با حاکمیت هوش مصنوعی دست و پنجه نرم می‌کنند به این دلیل شکست نمی‌خورند که فاقد چارچوب‌ها یا قصد هستند. آن‌ها به این دلیل شکست می‌خورند که حاکمیت از اجرا جدا است. حاکمیت مؤثر بر هوش مصنوعی نیازمند حاکمیت بر داده در نقطه استفاده، هر بار، بدون استثناء است. زمانی که حاکمیت در خود استک جاسازی شود، هوش مصنوعی می‌تواند با سرعت بر پایه‌هایی که قابل مشاهده، قابل توضیح و قابل اعتماد هستند حرکت کند.