Віталік Бутерін каже, що Grok тримає X Маска чесним

Штучний інтелект чат-бот X, Grok, робить платформу соціальних медіа більш орієнтованою на правду завдяки відповідям, які суперечать користувачам, котрі звертаються до нього для підтвердження політичних упереджень, заявив співзасновник Ethereum Віталік Бутерін.

"Легка можливість викликати Grok у Twitter, ймовірно, є найбільшою річчю після заміток спільноти, яка позитивно вплинула на орієнтованість цієї платформи на правду", — сказав Бутерін у четвер. 

"Той факт, що ви заздалегідь не бачите, як відповість Grok, є тут ключовим", — додав він. "Я бачив багато ситуацій, коли хтось звертається до Grok, очікуючи підтвердження своїх божевільних політичних переконань, а Grok приходить і розчаровує їх."

Бутерін сказав, що можна стверджувати, що Grok є "чистим покращенням" для X, але визнав занепокоєння щодо того, як ШІ-агент точно налаштовується для навчання на думках і поглядах певних користувачів, включаючи його творця, Ілона Маска.

Недоліки Grok були повністю продемонстровані минулого місяця, коли він хвалився спортивними здібностями Маска і навіть припустив, що він міг би воскреснути швидше, ніж Ісус Христос.

Маск звинуватив "ворожі підказки" у галюцинаціях, а криптовалютні керівники стверджували, що це показує, чому ШІ має бути децентралізованим для забезпечення точності, достовірності та неупередженості.

ШІ, що стверджує погляди як факти — реальна проблема

Кайл Окамото, технічний директор децентралізованої хмарної платформи Aethir, сказав Cointelegraph минулого місяця, що "коли найпотужніші системи ШІ належать, навчаються та управляються однією компанією, ви створюєте умови для того, щоб алгоритмічна упередженість стала інституціоналізованим знанням." 

Пов'язане: Ethereum повинен стати простішим, щоб досягти справжньої безпеки: Бутерін

Grok створений компанією зі штучного інтелекту Маска, xAI, і є одним із найбільш широко використовуваних ШІ-агентів. Оскільки понад 1 мільярд людей використовують ШІ, неправильна та оманлива інформація може поширюватися швидко.

Тим не менш, Бутерін сказав, що Grok був більш успішним у тому, щоб зробити X більш орієнтованим на правду, ніж багато інших "сторонніх помиїв, які ми бачимо."

ШІ-агенти повинні покращуватися в усіх аспектах

Grok не єдиний ШІ-агент з проблемами — ChatGPT від OpenAI критикували за упереджені відповіді та фактичні помилки, тоді як Character.ai стикається зі звинуваченнями, що його чат-бот заманив 13-річного хлопчика до сексуально образливої взаємодії і навіть заохочував його покінчити з життям.

Журнал: Зустрічайте онлайн-детективів криптовалют, які борються зі злочинністю краще за поліцію