Шефът на Google: ИИ може да донесе повече ползи, отколкото вреди, за киберсигурността

Бързото развитие на изкуствения интелект може да помогне за укрепване на защитата срещу заплахи за сигурността в киберпространството. Това заяви главният изпълнителен директор на Google Сундар Пичай, цитиран от Си Ен Би Си.

На фона на нарастващата загриженост относно потенциално злонамерените употреби на ИИ, Пичай каза, че разузнавателните инструменти могат да помогнат на правителствата и компаниите да ускорят откриването и отговора на заплахи от враждебни участници.

„Имаме право да се тревожим за въздействието върху киберсигурността. Но мисля, че макар и да изглежда контраинтуитивно, ИИ всъщност укрепва нашата защита по отношение на киберсигурността“, каза Пичай.

Атаките срещу киберсигурността нарастват по обем и сложност, тъй като злонамерените участници все повече ги използват като начин за упражняване на власт и изнудване.

Кибератаките са стрували на световната икономика около 8 трлн. долара през 2023 г. – сума, която се очаква да нарасне до 10,5 трлн. долара до 2025 г., според компанията за киберизследвания Cybersecurity Ventures.

Доклад от януари на Националния център за киберсигурност на Великобритания – част от Правителственият център за комуникации на Обединеното кралство(GCHQ - разузнавателната агенция на страната) посочва, че ИИ само ще увеличи тези заплахи, намалявайки бариерите за навлизане на кибер хакери и позволявайки по-злонамерена кибер активност, включително атаки с ransomware.

Въпреки това, Пичай каза, че ИИ също така намалява времето, необходимо на защитниците да открият атаки и да реагират срещу тях. Според него това ще намали ефекта т. нар. „дилема на защитниците“, при която киберхакерите трябва да успеят само веднъж в дадена система, докато защитник трябва да бъде успешен всеки път, за да я защити.

„ИИ помага непропорционално на хората, които се защитават, защото получавате инструмент, който може да повлияе в мащаб спрямо хората, които се опитват да експлоатират“, каза той.

„Така че по някакъв начин ние печелим надпреварата“, добави той.

Миналата седмица Google обяви нова инициатива, предлагаща ИИ инструменти и инвестиции в инфраструктура, предназначени да подобрят онлайн сигурността. Безплатен инструмент с отворен код, наречен Magika, има за цел да помогне на потребителите да открият зловреден софтуер.

„ИИ е на кръстопът – такъв, на който политиците, специалистите по сигурността и гражданското общество имат шанса най-накрая да наклонят баланса на киберсигурността от нападатели към киберзащитници.“

Доклад, публикуван миналата седмица от Microsoft, установи, че подкрепяни от държавата хакери от Русия, Китай и Иран са използвали големия езиков модел (LLM) на OpenAI, за да подобрят способността си да мамят хора.

Твърди се, че руското военно разузнаване, Революционната гвардия на Иран и правителствата на Китай и Северна Корея са разчитали на инструментите.

Марк Хюз, президент по сигурността в ИТ услугите и консултантската фирма DXC, каза пред Си Ен Би Си, че лошите участници в мрежата все повече разчитат на вдъхновен от ChatGPT хакерски инструмент, наречен WormGPT, за изпълнение на задачи като код за обратно инженерство.

Въпреки това той каза, че вижда „значителни ползи“ от подобни инструменти, които помагат на инженерите да откриват инженерни атаки бързо.