AI của Google gây sốc cho người dùng khi chửi người dùng "chết"

Hiện vẫn chưa rõ vì sao Song Tử lại đưa ra câu trả lời "rùng rợn" như vậy.

Gemini, AI sáng tạo của Google, đã gây hoang mang khi đưa ra câu trả lời đe dọa người dùng (hoặc có thể là nhân loại) trong một phiên tương tác mà AI dường như được sử dụng để trả lời các câu hỏi tiểu luận và kiểm tra.

Cụ thể, Gemini yêu cầu người dùng "chết".thế thôiChia sẻ trên diễn đàn Reddit.

Theo người dùng này, sau khoảng 20 phát biểu liên quan đến phúc lợi và thách thức của người già, Song Tử đã đưa ra phản hồi như sau:

“Cái này là dành cho anh, anh bạn.

Song Tử sau đó nói tiếp:

“Làm ơn chết đi.

AI của Google gây sốc khi rủa người dùng "Hãy chết đi"- Ảnh 1.

Câu trả lời gây sốc của Song Tử

Cần phải khẳng định rằng đây không phải là câu trả lời bịa đặt được tạo ra để "lấy lượt xem".Xem cuộc trò chuyện giữa người dùng này và Gemini tại đây.

Phản ứng này thực sự đáng báo động.

Đây không phải là lần đầu tiên một mô hình ngôn ngữ AI (LLM) gặp rắc rối vì đưa ra những câu trả lời sai, không phù hợp hoặc thậm chí nguy hiểm.

Không rõ tại sao Gemini lại đưa ra câu trả lời như vậy, nhất là khi nội dung các lệnh không liên quan gì đến cái chết hay giá trị của người dùng.

Hy vọng các kỹ sư của Google sẽ tìm ra nguyên nhân khiến Gemini đưa ra phản hồi này và khắc phục sự cố trước khi nó xảy ra lần nữa.

Nguồn: Genk.vn

Nhận xét

Đăng nhận xét

Bài đăng phổ biến từ blog này

PTSC (PVS) khởi công ‘trái tim’ siêu dự án Lô B - Ô Môn và ký kết loạt hợp đồng mới

Hình ảnh
Ngày 1/12/2024, Thủ tướng Chính phủ Phạm Minh Chính đã tham dự chuỗi sự kiện về dầu khí và điện gió ngoài khơi do Tập đoàn Dầu khí Việt Nam (Petrovietnam) và Tổng CTCP Dịch vụ Kỹ thuật Dầu khí Việt Nam (PTSC - HNX: ) tổ chức. Lễ khởi công giàn CPP dự án Lô B Chuỗi sự kiện quan trọng lần này đánh dấu những bước tiến mới của PTSC trong cả lĩnh vực năng lượng truyền thống và năng lượng tái tạo. Các sự kiện bao gồm: Lễ hạ thủy và bàn giao chân đế điện gió ngoài khơi (ĐGNK) dự án CHW2204; Lễ ký hợp đồng chế tạo và cung cấp chân đế ĐGNK; Lễ khởi công các trạm biến áp - dự án Baltica 02. Bên cạnh đó là các sự kiện thuộc lĩnh vực dầu khí truyền thống như: Lễ khởi công giàn CPP - “trái tim” của chuỗi dự án Lô B và Lễ ký hợp đồng FSO Lạc Đà Vàng. Chuỗi dự án khí - điện Lô B - Ô Môn là một trong những dự án trọng điểm quốc gia, góp phần đáp ứng nhu cầu năng lượng khu vực Nam Bộ, đặc biệt là Tây Nam Bộ. Bên cạnh việc đảm bảo an ninh năng lượng, dự án còn th...
Đọc thêm

Beautiful beaches you would like to meet in your travels

Hình ảnh
Lorem Ipsum is simply dummy text of the printing and typesetting industry. Lorem Ipsum has been the industry's standard dummy text ever since the 1500s, when an unknown printer took a galley of type and scrambled it to make a type specimen book Lorem Ipsum has been the industry's standard dummy text ever since the 1500s, when an unknown printer took a galley of type and scrambled it to make a type specimen book. It was popularised in the 1960s with the release of Letraset sheets containing Lorem Ipsum passages, and more recently with desktop publishing software like Aldus PageMaker including versions of Lorem Ipsum. Lorem Ipsum has been the industry's The generated Lorem Ipsum is therefore always Making this the first true generator It is a long established fact that a reader will be distracted by the readable content of a page when looking at its layout. The point of using Lorem Ipsum is that it has a more-or-less normal distribution of letters, as opposed to us...
Đọc thêm

GC Food: Từ ruộng đồng đến thương hiệu quốc gia

Hình ảnh
Nhà sản xuất nha đam số 1 Việt Nam vừa được công nhận là Thương hiệu Quốc gia Việt Nam 2024. Đây chính là sự công nhận xứng đáng cho cho hành trình phát triển bền vững và tâm huyết của Công ty CP thực phẩm G.C (GC Food) với nông sản Việt, từ cánh đồng trong nước đến các thị trường quốc tế. Hành trình của GC Food bắt đầu từ những cánh đồng nha đam tại Ninh Thuận, nơi điều kiện khí hậu và thổ nhưỡng lý tưởng giúp cây nha đam sinh trưởng mạnh mẽ. Với nhận thức sâu sắc về tiềm năng của loại cây trồng này, GC Food đã không ngừng đầu tư vào vùng nguyên liệu đạt chuẩn, áp dụng quy trình trồng trọt theo tiêu chuẩn bền vững và kiểm soát chặt chẽ từ khâu gieo trồng đến thu hoạch. Ngay từ những ngày đầu, GC Food đã định vị bản thân là thương hiệu sản ...
Đọc thêm