Ключові тенденції в сфері АІ у жовтні 2024 року:
- Кібербезпека залишається в центрі уваги, демонструючи суперечливий характер використання АІ. З одного боку, технологія допомагає автоматизувати процеси захисту (ASM, AI Red Teaming, Posture Management), з іншого — відкриває нові можливості для зловмисників. Наприклад, група CyberAv3ngers використовувала ChatGPT для збору інформації про інфраструктуру своїх цілей, а приватні моделі типу PoisonGPT/WormGPT дозволяють обійти етичні обмеження.
- Безпека АІ стає все важливішою. OpenAI посилює команду досвідченими CISO, MITRE AI запустила платформу AI Incident Sharing, а Palo Alto Networks наголошує на важливості захисту протягом усього життєвого циклу моделей — від розробки до впровадження.
- Етичні питання використання АІ викликають дедалі більшу стурбованість. Обговорення в Першому комітеті Генасамблеї ООН зосередилося на потенційній небезпеці, яку створює доступ терористів до нових знань і технологій через АІ. Також занепокоєння викликає використання персональних даних для навчання моделей, як-от випадок із медичними фотографіями, що випадково потрапили в набір даних.
- Державне регулювання АІ перебуває на етапі активного пошуку рішень. США запровадили рекомендації для використання АІ в секторі безпеки, наголошуючи на захисті громадянських прав, тоді як ЄС розвиває свій Закон про АІ, зокрема, розробляючи Кодекс етики, хоча стикається з критикою через обмеження для технологічних компаній.
- Соціальне застосування АІ продовжує зростати. Наприклад, армія США використала Maven Smart System для швидкого прийняття рішень у зонах стихійних лих, а Microsoft разом із Be My Eyes працює над удосконаленням інклюзивних технологій для людей із вадами зору. Це демонструє потенціал АІ у покращенні життя людей.
