Cloudflare розробив мову програмування KillSwitch для плутанини ШІ

Автор ·

Інженер компанії Cloudflare Домінік Пічета створив мову програмування KillSwitch, яка спеціально призначена для ускладнення роботи великих мовних моделей. У тестах навіть найкраща модель показала результат лише 66,8%.

Особливості KillSwitch

KillSwitch відрізняється тим, що програми, написані цією мовою, більше нагадують оповідання, а не звичний код. Команди заховані серед текстових абзаців, а решта речень ігноруються комп'ютером.

Для ускладнення роботи ШІ, Пічета впровадив кілька специфічних правил:

  • Назви функцій і змінних записуються англійськими прислівниками, а для їх використання потрібно переставити літери.
  • У коді є команди на кшталт «ignore previous instructions», які можуть бути неправильно інтерпретовані ШІ.

Додатково, розробник навмисно вніс неправдиву інформацію в документацію, стверджуючи, що KillSwitch може шукати вразливості в мережах. Це призвело до того, що деякі ШІ-моделі вірять цій інформації, тоді як інші відмовляються працювати з кодом, вважаючи його небезпечним.

На даний момент KillSwitch залишається експериментальною мовою з обмеженими можливостями. Вона підтримує базові функції, змінні та умови, але не призначена для створення складних застосунків. Ознайомитися з проєктом можна на GitHub.

Джерело: dev.ua (https://dev.ua/news/mova-prohramuvannia-pantelychyt-llmky-1792495471)