Tin tặc Nga đang liên tục tấn công thử sức chịu đựng của ChatGPT.
Theo công ty an ninh mạng Check Point Software Technologies (CPST), đang có nhiều cuộc tấn công nhắm vào chương trình trí tuệ nhân tạo ChatGPT của OpenAI.
“Chúng tôi nhận thấy có những cuộc tấn công từ tin tặc Nga nhằm vượt qua rào cản địa lý đang áp dụng trên ChatGPT”, Pete Nicoletti – trưởng phòng Thông tin an ninh của CPST chia sẻ. “Rào cản” mà Nicoletti đề cập chính là khả năng giới hạn quyền truy cập vào giao diện lập trình ứng dụng (API) của ChatGPT, công cụ giúp chặn các truy vấn từ Nga hiện nay.
Ông không đề cập chi tiết tới công cụ giúp CPST đo kiểm hệ thống để phát hiện nỗ lực truy cập trái phép từ tin tặc. Lãnh đạo công ty cũng nhận định hoạt động thăm dò của hacker Nga chỉ phản ánh một phần nỗ lực ngày càng tăng của các bên trong việc cố gắng có được quyền kiểm soát vào ChatGPT.
Nicoletti cũng đề cập tới trường hợp đã xảy ra trên mạng xã hội Reddit khi có người cố gắng khai thác ChatGPT theo hướng tiêu cực bằng cách dạy trí tuệ nhân tạo một “nhân cách mới” mang tên DAN (viết tắt của Do Anything Now – Làm bất kỳ điều gì). Người này đã sử dụng các câu lệnh nhập liệu hòng thao túng ChatGPT để AI này sản sinh những nội dung vượt khỏi khuôn khổ cho phép đối với trí tuệ nhân tạo, trong đó có phát ngôn gây thù địch.
Hiện chuyên gia bảo mật cũng không rõ liệu có hoạt động khai thác lỗ hổng trên ChatGPT mà chưa bị phát hiện, nhưng nếu có, nhiều khả năng là hình thức tấn công giả mạo nâng cao. Nhưng dù vậy, đây vẫn là vấn đề đáng phải để tâm.
Theo Popular Mechanics, đã có nhiều lo ngại xảy ra, và đó là lý do khiến giới phân tích đặt trí tuệ nhân tạo tổng hợp (AGI) lên đầu trong danh sách các mối quan tâm về sự rủi ro cho thế giới. Nghị sĩ Julian Hill của quốc hội Úc cho rằng nếu mọi người bắt đầu suy nghĩ, sẽ không mất nhiều thời gian để nhận ra những rủi ro đột phá và thảm khốc từ AGI chưa được thuần hóa là “có thật, hợp lý và dễ hình dung”.
Theo ông, AGI có khả năng cách mạng hóa thế giới của chúng ta theo những cách mà chúng ta chưa thể tưởng tượng được, nhưng nếu AGI vượt qua trí thông minh của con người, nó có thể gây ra tác hại đáng kể cho nhân loại nếu các mục tiêu và động cơ của nó không phù hợp với mục tiêu và động cơ mà chúng ta đặt ra.
