Ferramentas, tecnologias e serviços ciberseguros que dependem da IA

Очакван резултат:

• Внедряване на изкуствен интелект и различни технологии, задвижвани от ИИ, като способстващи фактори за киберцентрове, ЕРИКС, НКЦС, ЕЗК за МИС и други.
• Нови инструменти за киберсигурност, основани на ИИ, които са разработени, изпитани и валидирани при съответните условия и са предоставени на киберцентрове, ЕРИКС, НКЦС, ЕЗК за МИС и други.
• Засилен обмен на информация и сътрудничество между националните и трансграничните киберцентрове, ЕРИКС, националните координационни центрове, ЕЗК за МИС и други съответни заинтересовани страни, подкрепени от информационни и комуникационни технологии, създадени от инструменти, задвижвани от ИИ.
• Инструменти за автоматизация на процесите в областта на киберсигурността, като например създаването, анализа и обработката на CTI, за да се подобрят операциите на киберцентровете.
• Оригинални европейски емисии или услуги за CTI.
• Гарантиране, че най-напредналите и иновативни сигурни решения в областта на ИИ се разработват и прилагат за секторите на МИС.
• Сигурни решения и инструменти с ИИ в съответствие със законодателството на ЕС. Насърчаване на смекчаването на рисковете, свързани със злоупотребата с ИИ от злонамерени участници, с акцент върху етиката на ИИ и сигурното внедряване.
• Принос към стандартизацията и сертифицирането на сигурни в кибернетичното пространство и надеждни технологии с ИИ.

Цел:

Тази тема е насочена към технологиите, основани на ИИ (включително GenAI), за националните органи и компетентните органи, включително националните и трансграничните киберцентрове, ЕРИКС, публичните органи и частните субекти от Директивата за МИС 2, НКЦ [1] и др. Те играят ключова роля за осигуряването на централен оперативен капацитет на европейските екосистеми за киберсигурност. Те могат също така да предоставят първични входящи данни за основани на ИИ/СО инструменти и решения за киберсигурност, които могат да укрепят капацитета на тези органи да анализират, откриват и предотвратяват киберзаплахи и инциденти и да подпомагат изготвянето на висококачествени разузнавателни данни относно киберзаплахите. По-специално възприемането на генеративен ИИ [2] би могло да бъде предизвикателство и възможност за процесите и приложенията в областта на киберсигурността [3]. Тези базови технологии следва да позволят по-ефективно създаване и анализ на разузнавателни данни за киберзаплахи (CTI), автоматизация на широкомащабни процеси, както и по-бързо и мащабируемо обработване на CTI и установяване на модели, които позволяват бързо откриване и вземане на решения. Трябва да се обърне внимание и на сигурността на самия ИИ, особено за системите във фазата на обучение, включително злоупотребата с ИИ от злонамерени участници. Това включва извършване на оценки на риска и смекчаване на рисковете за киберсигурността, присъщи на технологиите с ИИ, прилагане на сигурността на веригата на доставки и др., както и спазване на Законодателния акт за ИИ, законодателството в областта на интелектуалната собственост и ОРЗД. Освен че са сигурни, разработваните технологии в областта на ИИ следва да функционират добре и да бъдат стабилни и надеждни. По-специално наличието на надеждни решения с ИИ ще помогне във фазата на внедряване, където социалното приемане е от съществено значение. [1] Ако е приложимо и в съответствие с отделните национални стратегии. [2] Cybersecurity in the age of generative AI (Киберсигурността в ерата на генеративния ИИ), септември 2023 г., на разположение на адрес: https://www.mckinsey.com/featured insights/themes/cybersecurity-in-the-age-of-generative-ai. [3] The Need for AI-Powered Cybersecurity to Tackle AI-Driven Cyberattacks (Необходимостта от киберсигурност, задвижвана от ИИ, за справяне с кибератаки, задвижвани от ИИ), април 2024 г., на разположение на адрес: https://www.isaca.org/resources/news-and-trends/isaca-now-blog/2024/the-need-for-ai-powered cybersecurity-to-tackle-ai-driven-cyberattacks (Новини и тенденции/isaca-now-blog/2024/необходима за задвижване на киберсигурността кибератаки).

Обхват:

Действията по тази тема следва да разработват и внедряват системи и инструменти за киберсигурност[1], основани на технологии с ИИ[2], насочени към аспекти като откриване на заплахи, откриване на уязвимости, смекчаване на заплахи, възстановяване след инциденти чрез самолечение, анализ на данни и обмен на данни. Тези дейности трябва също така да са в съответствие с правата върху интелектуалната собственост (ПИС) и ОРЗД в зависимост от вида на обработваната информация. Предложените решения в областта на ИИ следва също така да бъдат сигурни в кибернетичното пространство. Дейностите следва да включват поне едно от следните:

• Непрекъснато откриване на модели и установяване на аномалии, които потенциално могат да показват нововъзникващи заплахи, разпознаване на нови вектори на атака и даване на възможност за усъвършенствано откриване в променящата се обстановка по отношение на заплахите, включително в ИКТ или в оперативните технологични инфраструктури, използващи отворени технологии.
• Създаване на CTI въз основа на нови способности за откриване на заплахи
• Увеличаване на скоростта на реагиране при инциденти чрез наблюдение в реално време на мрежите с цел идентифициране на инциденти, свързани със сигурността, и генериране на сигнали или задействане на автоматизирани реакции.
• Смекчаване на заплахите от зловреден софтуер чрез анализиране на поведението на кода, мрежовия трафик и характеристиките на файловете, като се намалява възможността нападателите да използват зловреден софтуер.
• Установяване на уязвимости и подкрепа за ръководството, като се вземат предвид множество източници на информация.
• Киберсигурни инструменти и решения, които осигуряват намаляване на риска при кръстосването между ИИ, интернет на нещата и интелигентните мрежи или други производствени вериги.
• Подкрепа за възстановяване от инциденти чрез капацитет за самолечение.
• Намаляване на шансовете за атаки и превантивно идентифициране на слабостите чрез автоматизирано сканиране на уязвимостите и тестване за проникване.
• Защита на чувствителни бизнес данни чрез анализ на моделите за достъп и откриване на необичайно поведение.
• Даване на възможност на организациите да използват и споделят CTI и друга приложима информация за анализ и информация, без да се излагат на риск сигурността на данните и неприкосновеността на личния живот, чрез анонимизиране.
• Инструменти и решения, които осигуряват сигурност на продуктите или киберсигурност още при проектирането/по подразбиране в съответствие с изискванията на АКР.
• Доставчиците на инструменти и услуги са добре дошли да кандидатстват по тази тема, също и когато са в консорциум с киберцентрове. Когато е целесъобразно, следва да се установят връзки със заинтересованите страни в областта на високопроизводителните изчислителни технологии, както и дейности за насърчаване на изграждането на мрежи с тези заинтересовани страни. В добре обосновани случаи могат да бъдат предоставени искания за достъп до високопроизводителната изчислителна инфраструктура на СП EuroHPC.
• Системите, инструментите и услугите, разработени по тази тема, ще бъдат предоставени за лицензиране на националните и/или трансграничните платформи на киберцентрове, ЕРИКС, компетентните органи и други съответни органи при благоприятни пазарни условия.
• Тези действия имат за цел да осигурят основани на ИИ способности за киберсигурност за националните и/или трансграничните киберцентрове и за националните органи, обхващащи киберцентрове, ЕРИКС, които играят централна роля за гарантиране на киберсигурността на националните органи, доставчиците на критични инфраструктури и основните услуги. Тези субекти са натоварени със задачата да наблюдават, разбират и проактивно да управляват заплахите за киберсигурността. С оглед на решаващата им оперативна роля за гарантиране на киберсигурността в Съюза, естеството на използваните технологии, както и чувствителността на обработваната информация, киберцентровете трябва да бъдат защитени от възможни за