Những video "bắt trend" yêu cầu chatbot đếm số có nhiều lượt tương tác trên mạng xã hội - Ảnh chụp màn hình
Trên mạng xã hội xuất hiện trào lưu mang tính thử sức chịu đựng của chatbot, khi nhiều người dùng yêu cầu những mô hình AI phổ thông như ChatGPT, Gemini… thực hiện việc đếm số từ 1 đến hàng trăm nghìn, thậm chí cả triệu.
Trào lưu này xuất phát từ một video ngắn trên TikTok ghi lại cảnh
Ông Vũ Thanh Thắng, Giám đốc trí tuệ nhân tạo CAIO - Founder Công ty cổ phần an ninh mạng SCS - Ảnh: NVCC
Chuyên gia về AI Vũ Thanh Thắng đánh giá việc người dùng thường xuyên có những hành vi “tra tấn AI” sẽ làm tăng chi phí vận hành tiêu tốn nhiều tài nguyên tính toán như: CPU, GPU, NPU, băng thông… mà không tạo ra giá trị.
Ngoài ra, việc này còn làm giảm chất lượng dịch vụ cho người dùng khác. Các yêu cầu vô ích chiếm dụng tài nguyên, gây nghẽn hệ thống, có thể làm chậm phản hồi hoặc giảm hiệu năng cho người dùng thực sự cần AI cho công việc, sáng tạo, giáo dục, nghiên cứu…
Bên cạnh đó, việc “tra tấn AI” gây rủi ro về an ninh hệ thống, với nhiều người cùng thực hiện có thể dẫn tới tấn công từ chối dịch vụ (DoS/DDoS), đe dọa sự ổn định của nền tảng.
Nhưng cũng từ những sự việc trên, các nhà phát triển AI và hệ thống nhận diện và khắc phục điểm yếu của hệ thống. Những trào lưu này cũng có thể được dùng như bài kiểm tra sức chịu tải, giúp nhà phát hành phát hiện điểm nghẽn, lỗ hổng để tối ưu hệ thống, nâng cao bảo mật.
Do hành vi người dùng rất đa dạng, việc xây dựng quy tắc đạo đức trong sử dụng AI là hết sức cần thiết. Theo ông Vũ Thanh Thắng, để AI phát huy hiệu quả và giảm thiểu rủi ro, cần áp dụng nguyên tắc song song cho cả người dùng lẫn nhà cung cấp: người dùng phải tuân thủ chuẩn mực đạo đức, còn hệ thống AI phải được tích hợp cơ chế kiểm soát để ngăn chặn các vi phạm, dù vô tình hay cố ý.
‘Đu trend’ chỉnh sửa ảnh anime, coi chừng lộ lọt thông tin
