Một trong những điểm nổi bật của báo cáo từ EU là sự gia tăng các rủi ro hệ thống mạng xã hội, từ việc phát tán nội dung bất hợp pháp đến các mối đe dọa đối với quyền con người. Đặc biệt, các rủi ro liên quan đến sức khỏe tâm thần và sự bảo vệ trẻ vị thành niên trên mạng trước các công nghệ mới như trí tuệ nhân tạo tạo sinh đã được nhấn mạnh.
Đáng chú ý, EU phát hiện biểu tượng cảm xúc (emoji) đã được sử dụng như là một công cụ ngôn ngữ mã hóa nhằm thúc đẩy các hoạt động trực tuyến bất hợp pháp, bao gồm cả buôn bán ma túy.
Biểu tượng cảm xúc đang được kẻ xấu khai thác cho các mục đích độc hại
Báo cáo cũng chỉ ra rằng tội phạm mạng đang tìm cách né tránh sự phát hiện và thực thi pháp luật bằng cách sử dụng emojivà ngôn ngữ ám chỉ trên các nền tảng mạng xã hội như Facebook và X. Trên Facebook, các tội phạm này đã sử dụng emoji để ngụ ý ý định của mình mà không nói thẳng ra. Trong khi đó, trên X, các nhóm cực đoan đã vượt qua các biện pháp kiểm soát bằng cách sử dụng ngôn ngữ mã hóa và điều chỉnh hình ảnh để giảm thiểu nỗ lực kiểm duyệt.
EU cảnh báo các chiêu trò độc hại đối với trẻ vị thành niên
Liên quan đến trẻ vị thành niên, báo cáo của EU cho biết một số người lớn đã giả mạo trẻ vị thành niên để tiếp cận các em. Việc xác minh độ tuổi vẫn là một thách thức lớn đối với các nhà cung cấp dịch vụ, trong khi người giám hộ chưa thể quản lý hiệu quả tình trạng này. Emoji cũng được sử dụng để ám chỉ các hành động nguy hiểm, như súp gà liên quan đến hành vi tự gây hại và pizza liên quan đến nội dung lạm dụng tình dục trẻ em.
Báo cáo nhấn mạnh sự cần thiết phải đào tạo người kiểm duyệt nội dung về văn hóa địa phương, ngôn ngữ và bối cảnh mạng xã hội. Các tổ chức xã hội dân sự đã kêu gọi tạo ra các mô hình phát hiện sớm để nhận diện các xu hướng lan truyền nguy hiểm, như các thử thách gây hại.
Mặc dù Meta đã bắt đầu giám sát các hoạt động mà trẻ vị thành niên có thể xem trên Instagram, trong khi Google cần điều chỉnh việc sử dụng công cụ tìm kiếm của mình dựa trên độ tuổi người dùng.
