Vụ việc cho thấy chatbot làm gia tăng sự hỗn loạn thông tin khi các nền tảng trực tuyến giảm bớt việc kiểm chứng thông tin và kiểm duyệt nội dung của con người.
Theo CNN, Grok đã xác định sai ông Ahmed al Ahmed, được ca ngợi như một người hùng của bãi biển Bondi sau khi liều mạng giằng lấy khẩu súng từ một trong những kẻ tấn công. Sau đó, Grok thừa nhận đã nhầm lẫn hình ảnh của ông Ahmed với một con tin người Israel bị nhóm Hồi giáo cực đoan Hamas giam giữ hơn 700 ngày. Khi được hỏi về một cảnh khác từ vụ tấn công, Grok thông tin sai rằng đó là đoạn phim từ "cơn bão nhiệt đới Alfred" gây ra thời tiết xấu trên khắp bờ biển Australia hồi đầu năm nay. Sau khi một người dùng khác yêu cầu chatbot xem xét lại câu trả lời, Grok mới thừa nhận đoạn phim đó là từ vụ xả súng ở bãi biển Bondi.
Những thông tin sai lệch nói trên càng khẳng định sự thiếu tin cậy của chatbot AI trong vai trò công cụ kiểm chứng thông tin. Người dùng internet ngày càng ưa sử dụng chatbot để xác minh hình ảnh trong thời gian thực, nhưng các công cụ này thường nhầm lẫn. Các mô hình AI có thể hữu ích cho những người kiểm chứng thông tin chuyên nghiệp, giúp nhanh chóng định vị địa lý qua hình ảnh, song chúng chưa đạt tới trình độ của những nhà kiểm chứng chuyên nghiệp.
