0432news

Епоха ШІ, що не може пояснити власні рішення, завершується? Науковці з Університету Лафборо (Велика Британія) представили математичний план проєктування прозорих ШІ-систем. Нова розробка дозволяє точно відстежувати, як алгоритм навчається, запам’ятовує інформацію та робить висновки Про це повідомляє РБК-Україна з посиланням на результати дослідження, опубліковані у фаховому віснику Physica D: Nonlinear Phenomena. Більше цікавого: ШІ не зміг виміряти красу: вчені виявили приховані упередження алгоритмів Команда розробила ШІ-систему, що імітує ключові аспекти людського мислення. На відміну від звичайних нейромереж, цей прототип виконує такі функції: Безперервно навчається: алгоритм не втрачає старих знань при отриманні нових (проблема, відома як "катастрофічне забування"). Уникає хибних спогадів: система не створює дезінформації у процесі обробки даних. Пояснює логіку: кожна дія ШІ є передбачуваною та простежуваною. Під час перших тестів прототип самостійно вивчив музичні ноти та короткі фрази без допомоги людини, а також успішно ідентифікував кольори на зображеннях. Весь процес обробки даних був повністю прозорим для дослідників. У чому суть експерименту? В основі нового підходу лежить концепція "пластичного векторного поля". Це математична модель, яка описує, як інформація змінюється з часом, відображаючи процеси обробки та зберігання даних у справжньому мозку. "Ми хотіли переосмислити ШІ з самого початку. Ми побудували систему, де внутрішня робота когніції є повністю відкритою", - пояснила провідна авторка дослідження, докторка Наталія Янсон. Вчені намагалися відповісти на фундаментальні питання, що є "кодом" мозку та як пов’язані пам’ять і фізична структура. Чому сучасні нейромережі - це проблема? Автори дослідження також проаналізували чинні алгоритми та дійшли висновку, що їхні обмеження закладені у самій конструкції. "Актуальний дизайн ШІ робить неможливим повний контроль над тим, як системи навчаються та зберігають дані. Це не просто технічна перешкода, а вроджений дефект", - пояснюють дослідники. Саме через це сучасний ШІ часто не може пояснити, чому він зробив той чи інший вибір. Як наслідок, його впровадження у критично важливих сферах викликає радше скепсис, ніж ентузіазм. Яким буде майбутнє? Наразі система є прототипом, що потребує масштабування для реального використання. Проте вчені впевнені, що їхня робота наближає людство до технологій, на які можна впевнено покластися у повсякденному житті. У чому дослідники вбачають перспективу: Безпечна система охорони здоров'я: діагностичні інструменти, логіку яких лікарі зможуть перевірити. Підзвітні рішення: автоматизовані ШІ-системи у судах чи банківській сфері, які працюватимуть прозоро. Нове залізо: розробка спеціального обладнання, адаптованого під "прозору" математичну модель. Вчені ставлять собі за мету створити потужний ШІ, який буде не просто ефективним, а насамперед зрозумілим та вартим довіри. Ще більше цікавого:

• Повстання неминуче? Чому людство ніколи не зможе повністю контролювати ШІ
• Активність мозку падає на 55%: дослідники MIT б'ють на сполох через популярний ШІ