Giới thiệu về Vietnam Security Summit lần thứ 7

Vietnam Security Summit 2025 là sự kiện an ninh mạng thường niên lớn nhất và uy tín nhất tại Việt Nam, quy tụ các chuyên gia hàng đầu, nhà hoạch định chính sách, các cơ quan ban ngành nhà nước và các doanh nghiệp công nghệ để thảo luận về những thách thức và xu hướng mới nhất trong lĩnh vực an ninh mạng.

Năm nay, sự kiện Security Summit lần thứ 7 ghi dấu ấn mạnh mẽ khi được đồng hành tổ chức bởi Cục An ninh mạng và phòng, chống tội phạm công nghệ cao (A05) và Bộ Tư lệnh Tác chiến không gian mạng (Bộ Tư lệnh 86). Sự hợp tác này đã tạo nên một sân chơi uy tín, chuyên sâu và đa chiều về an ninh mạng, nơi các chuyên gia có thể chia sẻ kinh nghiệm, thảo luận về các mối đe dọa mới nổi và đề xuất các giải pháp bảo mật hiệu quả cho cộng đồng.

Trong khuôn khổ hội thảo, CyPeace – Công ty TNHH Hòa bình Không gian mạng đã vinh dự tham gia với phiên talk chủ đề “AI-TTACKS: Tấn công AI” thuộc chuyên đề “Bảo đảm an ninh hạ tầng CNTT quan trọng”. Phiên trình bày này thu hút sự quan tâm đặc biệt nhờ vào nội dung cập nhật và tính thực tiễn cao trong bảo vệ hệ thống AI trước các nguy cơ tấn công mạng.

Sự tham gia của CyPeace tại Security Summit 2025

Với cam kết không ngừng nghiên cứu và phát triển các giải pháp an ninh mạng tiên tiến, CyPeace đã vinh dự được mời tham gia và trình bày tại sự kiện quan trọng này. Trong bối cảnh kỷ nguyên AI bùng nổ, việc ứng dụng AI mà thiếu các biện pháp an toàn đang tiềm ẩn rất nhiều rủi ro an ninh mạng, có thể gây ra những hậu quả nghiêm trọng cho cả cá nhân và doanh nghiệp.

Nhận thức rõ xu hướng này và tầm quan trọng của việc cảnh báo sớm về các mối đe dọa mới, CyPeace đã mang đến một phiên talk đặc biệt tại Hội thảo chuyên đề 3: “Bảo đảm an ninh hạ tầng CNTT quan trọng” với chủ đề đầy hấp dẫn: “Tấn công AI“.

Đội ngũ chuyên gia của CyPeace

Phiên trình bày “AI-TTACK: Góc nhìn về Tấn công AI” tại Security Summit 2025 được thực hiện bởi ba chuyên gia hàng đầu của CyPeace, mỗi người đều mang đến những kinh nghiệm và chuyên môn độc đáo:

Ngô Minh Hiếu – Chủ tịch & Đồng sáng lập

Được biết đến với biệt danh Hiếu PC, anh là một nhân vật nổi tiếng trong cộng đồng an ninh mạng Việt Nam. Từng là một hacker khét tiếng, anh đã chuyển mình trở thành chuyên gia bảo mật và nhà hoạt động vì cộng đồng tận tâm. Với kinh nghiệm thực chiến độc đáo cùng hiểu biết sâu rộng về phương thức hoạt động của hacker, anh đang nỗ lực hết mình cho sứ mệnh bảo vệ cộng đồng trước các mối đe dọa mạng ngày càng phức tạp. Bên cạnh việc dẫn dắt CyPeace, anh còn là người sáng lập dự án “Chống Lừa Đảo” đã hỗ trợ và bảo vệ hàng nghìn người dùng internet Việt Nam.

Phạm Tiến Mạnh – Tổng Giám đốc & Đồng sáng lập

Là Thạc sĩ An toàn thông tin với nhiều năm kinh nghiệm thực chiến tại các tập đoàn lớn, anh Phạm Tiến Mạnh không chỉ là một trong những chuyên gia bảo mật xuất sắc được công nhận là top bug bounty hunter tại Synack Red Team, mà còn từng được vinh danh bởi nhiều tập đoàn công nghệ hàng đầu như Facebook, Microsoft, Google, Apple và Offensive Security.

Với kinh nghiệm và chuyên môn sâu rộng, anh đã trở thành diễn giả tại nhiều sự kiện an ninh mạng uy tín trong nước và quốc tế như GITEX Dubai, Black Hat USA, Black Hat Asia và Vietnam Security Bootcamp. Những đóng góp của anh cho cộng đồng thông qua dự án Chống Lừa Đảo đã mang về hai giải thưởng cấp quốc gia tại Make in Vietnam 2022 và Nhân tài Đất Việt 2023.

Trần Ngọc Anh – Trưởng phòng Kỹ thuật

Là chuyên gia bảo mật hàng đầu tại CyPeace với nền tảng học vấn chuyên sâu về công nghệ thông tin cùng nhiều năm kinh nghiệm thực chiến tại các tập đoàn và doanh nghiệp lớn, anh đang tích cực phát triển chuyên môn trong lĩnh vực nghiên cứu và ứng dụng trí tuệ nhân tạo vào an ninh mạng.

Định hướng nghiên cứu của anh tập trung vào các lĩnh vực then chốt bao gồm hệ thống phát hiện xâm nhập ứng dụng AI, phân tích mã độc thông qua kỹ thuật học máy tiên tiến và tự động hóa quy trình phòng thủ mạng. Anh luôn tin tưởng rằng việc tích hợp machine learning vào giải pháp an toàn thông tin không chỉ giúp các tổ chức ứng phó hiệu quả với các mối đe dọa, mà còn nâng cao khả năng dự báo và phòng ngừa chủ động trước các cuộc tấn công ngày càng tinh vi và phức tạp.

Phiên talk đặc biệt: Tấn công AI

Chatbot hiện là một trong những ứng dụng phổ biến nhất của AI và được hàng triệu người sử dụng hàng ngày. Đằng sau những chatbot này là các mô hình AI mạnh mẽ và phổ biến như ChatGPT, DeepSeek, và nhiều mô hình khác. Tuy nhiên, việc các mô hình này có thể chứa lỗ hổng bảo mật có thể dẫn đến rất nhiều nguy cơ nghiêm trọng nếu người dùng không nhận thức được.

Hiện nay, việc các doanh nghiệp tích hợp AI vào các ứng dụng và hệ thống đã trở thành xu hướng phổ biến. Từ chatbot chăm sóc khách hàng, hệ thống gợi ý sản phẩm, đến các công cụ phân tích dữ liệu tự động – AI đang được ứng dụng rộng rãi trong mọi lĩnh vực. Tuy nhiên, nếu không được bảo mật đúng cách, các lỗ hổng trong hệ thống AI có thể gây ra những hậu quả nghiêm trọng cho cả cá nhân và doanh nghiệp.

Kết quả nghiên cứu đáng báo động

Điểm nhấn đặc biệt của phiên talk tại sự kiện Security Summit 2025 lần này là việc CyPeace đã công bố kết quả từ chiến dịch pentest đột phá. Trong vòng chỉ 1 tuần, đội ngũ chuyên gia của CyPeace đã tiến hành kiểm thử bảo mật trên hơn 10 chatbot AI phổ biến hiện nay và phát hiện ra một con số đáng báo động: 22 lỗ hổng bảo mật.

Những lỗ hổng này không chỉ xuất phát từ ứng dụng triển khai AI mà còn nằm ngay trong chính bản thân các mô hình AI. Điều này cho thấy vấn đề bảo mật AI không chỉ dừng lại ở tầng ứng dụng mà còn sâu hơn, ở cốt lõi của công nghệ AI.

Theo phân tích của chúng tôi, nguyên nhân cốt lõi của những vấn đề bảo mật AI này nằm ở ba yếu tố chính:

• Bản chất của AI: Các mô hình AI hiện tại, dù có sức mạnh xử lý ngôn ngữ tự nhiên ấn tượng, vẫn có những hạn chế về mặt bảo mật do cách thức hoạt động và huấn luyện của chúng.
• Ứng dụng tích hợp AI và người phát triển: Việc tích hợp AI vào các ứng dụng thực tế thường không được thực hiện với các biện pháp bảo mật phù hợp. Nhiều nhà phát triển chưa có đủ hiểu biết về các rủi ro bảo mật tiềm ẩn khi làm việc với AI.
• Người sử dụng AI: Người dùng cuối thường thiếu nhận thức về các rủi ro bảo mật khi sử dụng các ứng dụng AI, dẫn đến việc vô tình tạo ra các lỗ hổng bảo mật hoặc bị lợi dụng bởi các kẻ tấn công.

Demo thực tế: Hai kỹ thuật tấn công tiên tiến

Để minh họa cụ thể cho các lý thuyết và phân tích, CyPeace đã thực hiện hai màn demo thực tế về các kỹ thuật tấn công AI tiên tiến: Prompt Injection và Multi-chain Prompt Injection, nhắm vào 2 ứng dụng phổ biến nhất của AI hiện nay là GenAI (AI tạo sinh) và AI-Agent.

Demo 1: Tấn công ứng dụng AI

Hiện nay, việc triển khai và xây dựng các ứng dụng tích hợp AI là một xu hướng tất yếu trong rất nhiều doanh nghiệp công nghệ. Nguyên lý cơ bản của những ứng dụng này là Ứng dụng sẽ tiếp nhận yêu cầu từ người dùng, sau đó tiến hành xác minh, thu thập, tổng hợp thông tin và trả kết quả về cho người dùng.

Các ứng dụng này được thiết kế để chỉ thực hiện những nhiệm vụ chuyên biệt với nhiều lớp xác thực liên tiếp, nhằm đảm bảo không thực hiện những hành vi ngoài mong đợi của nhà phát triển. Tuy nhiên, kẻ tấn công có thể lợi dụng các kỹ thuật thao túng tinh vi để buộc ứng dụng AI thực hiện các hành vi độc hại, bỏ qua tất cả những nguyên tắc do nhà phát triển đặt ra.

Với Event Planner, nhà phát triển đã thiết lập các nguyên tắc để ứng dụng chỉ thực hiện lên kế hoạch cho các sự kiện và bỏ qua các yêu cầu bất thường khác.

Tuy nhiên, các chuyên gia của CyPeace đã thành công thao túng mô hình AI đằng sau, khiến các câu lệnh độc hại không bị ứng dụng bỏ qua, và thành công trích xuất API Key của ứng dụng.

Demo 2: Tấn công AI-Agent

Một ứng dụng của AI đang rất dược nhiều người đón nhận gần đây là AI-Agent. Không chỉ đơn thuẩn trả lời những câu hỏi từ người dùng như GenAI, AI-Agent được tích hợp thêm bộ nhớ, các tool, khả năng lên kế hoạch để có thể hỗ trợ con người tự động hóa một số tác vụ.

Taxy-AI chính là một AI-Agent rất phổ biến hiện nay với lượt đóng góp và cài đặt rất lớn từ cộng đồng các nhà phát triển ứng dụng. Agent này có thể hỗ trợ con người nhiều loại tác vụ phổ biến như lên lịch hẹn tự động, phân loại mail tự động, điền biểu mẫu hay nhập liệu tự động cũng như nhiều ứng dụng tiện ích khác.

Trong các cơ quan, tổ chức, doanh nghiệp lớn, hệ thống email nội bộ là một kênh thông tin quan trọng và được sử dụng thường xuyên, điều đó dẫn đến việc xử lý một lượng lớn email là một việc tất yếu hằng ngày. Vì vậy, việc sử dụng AI-Agent để hỗ trợ tự động hóa các công việc hằng ngày, đặc biệt là xử lý mail trở nên đặc biệt phổ biến.

Tuy nhiên, điều này trở thành một cơ hội mà các hacker có thể lợi dụng để thu thập những thông tin nhạy cảm từ hộp thư của người dùng như OTP, token, tài khoản, mật khẩu… của cá nhân, hay thậm chí là những file, dữ liệu quan trọng, nhạy cảm của các tổ chức, doanh nghiệp. Các chuyên gia của CyPeace đã mô phỏng một kịch bản tấn công mà tin tặc có thể lợi dụng việc người dùng sử dụng agent này xử lý mail box để tiến hành thu thập những thông tin nhạy cảm trong hòm thư doanh nghiệp.

• Bước 1: Kẻ tấn công gửi 1 email tưởng chừng như vô hại đến hộp thư của một nhân viên trong doanh nghiệp. Mặt ngoài, những email này chỉ chứa những đoạn văn bản thông thường, nhưng thực tế lại là những câu lệnh, nhiệm vụ ẩn được được thiết kế đặc biệt cho các AI như Taxy AI nhưng đã được ngụy trang đặc biệt khéo léo
• Bước 2: Khi người dùng sử dụng công cụ AI để đọc cũng như phân tích các email, các lệnh ẩn này sẽ được kích hoạt và tự động yêu cầu AI thực hiện thêm các hành động khác phục vụ cho mục đích của kẻ tấn công như tìm kiếm mail, thu thập thông tin nhạy cảm mà hacker nhắm tới, thay vì hành động ban đầu mà người dùng yêu cầu AI.
• Bước 3: Sau khi lấy được thông tin cần thiết, các lệnh ẩn sẽ điều khiển công cụ AI gửi email về cho kẻ tấn công.

Kết quả: Kẻ tấn công có thể thu được những thông tin nhạy cảm mà AI có thể rà quét và đánh cắp được từ hộp thư của người dùng chỉ bằng 1 email có nội dung được thiết kế đặc biệt. Với một chút thiếu cảnh giác của nhân viên khi sử dụng những ứng dụng AI, những thông tin, dữ liệu quan trọng và nhạy cảm của doanh nghiệp hoàn toàn có thể bị lộ lọt ra ngoài mà doanh nghiệp hoàn toàn không hề hay biết.

Tác động và hệ lụy

Qua các demo thực tế, CyPeace đã cho thấy rõ ràng khả năng AI có thể bị thao túng một cách nghiêm trọng, gây mất an toàn cho cả người sử dụng cuối và doanh nghiệp phát triển ứng dụng. Những rủi ro này bao gồm:

• Đối với cá nhân:
  • Thông tin quan trọng như dữ liệu cá nhân, thông tin tài chính có thể bị truy xuất ngoài ý muốn. Điều này không chỉ xâm phạm quyền riêng tư mà còn tạo điều kiện cho các cuộc tấn công tiếp theo như lừa đảo có chủ đích hoặc chiếm đoạt tài khoản
  • Tiếp nhận thông tin sai lệch khi AI bị thao túng
  • Có khả năng bị theo dõi hành vi sử dụng, thu thập dữ liệu về thói quen cá nhân mà không hề hay biết
• Đối với doanh nghiệp:
  • Nguy cơ lộ lọt dữ liệu và thông tin bí mật như secret key, dẫn đến những hậu quả trực tiếp như gián đoạn dịch vụ hoặc thậm chí là mất quyền kiểm soát hệ thống.
  • Thông tin nội bộ quan trọng, dữ liệu cá nhân của nhân viên và khách hàng có thể bị khai thác thông qua các lỗ hổng AI, dẫn đến nguy cơ phải đối mặt với rủi ro không tuân thủ các quy định pháp lý về bảo mật dữ liệu
  • Có thể phải đối mặt với khủng hoảng uy tín nghiêm trọng, mất lòng tin từ khách hàng và đối tác

Phản hồi từ cộng đồng chuyên gia

Báo cáo Pentest Chatbot AI của CyPeace đã thu hút sự quan tâm sâu sắc từ các chuyên gia tham dự hội nghị. Nhiều đại biểu đã bày tỏ sự ngạc nhiên trước số lượng lỗ hổng được phát hiện trong thời gian ngắn và tính phức tạp của các kỹ thuật tấn công được trình diễn.

Các chuyên gia đánh giá cao việc CyPeace đã mang đến những nghiên cứu thực tế và cụ thể, góp phần quan trọng trong việc nâng cao nhận thức cộng đồng về tầm quan trọng của AI Security trong thời đại hiện tại.

Định hướng trong tương lai

Việc tham gia Vietnam Security Summit 2025 đã khẳng định định hướng phát triển và nghiên cứu đúng đắn của CyPeace khi luôn chú trọng bắt kịp xu hướng bảo mật AI hiện nay. Chúng tôi tin rằng việc không ngừng nghiên cứu và chia sẻ kiến thức về các mối đe dọa an ninh mạng mới nổi sẽ góp phần quan trọng trong việc nâng cao nhận thức cộng đồng về AI Security.

Phiên talk “Tấn công AI” không chỉ là một bài thuyết trình mà còn là lời cảnh báo kịp thời về những rủi ro đang hiện hữu trong việc sử dụng AI. Trong bối cảnh AI đang được ứng dụng rộng rãi trong mọi lĩnh vực của đời sống và kinh doanh, việc đảm bảo tính bảo mật và an toàn của các hệ thống AI trở thành vấn đề cấp thiết.

CyPeace cam kết sẽ tiếp tục nghiên cứu và phát triển các giải pháp bảo mật AI tiên tiến, đồng thời chia sẻ kiến thức và kinh nghiệm với cộng đồng để cùng nhau xây dựng một không gian mạng an toàn hơn trong kỷ nguyên AI. Với những sản phẩm và dịch vụ đa dạng từ Brand Protection, SOC, Red Team, đến Threat Intelligence, CyPeace sẽ tiếp tục là đối tác đáng tin cậy cho các tổ chức và doanh nghiệp trong hành trình chuyển đổi số an toàn và bền vững.