Nội dung rác từ AI không chỉ làm bảng tin trên các mạng xã hội rối loạn mà còn đang là vấn đề đau đầu với đội ngũ quản lý chất lượng thị trường tại TikTok Shop và nhiều nền tảng thương mại điện tử khác.
Theo Nicolas Waldmann, trưởng nhóm quản trị và quan hệ đối ngoại của TikTok Shop, nhiều người bán hàng gian lận đang dùng công cụ AI tạo sinh để tạo thương hiệu hoặc sản phẩm giả, khiến người dùng trả tiền cho những hàng hóa không thực sự tồn tại.
“Đây thực chất là tội phạm có tổ chức. Về cơ bản, họ tìm cách đăng bán, nhưng dĩ nhiên không bao giờ giao hàng, sau đó ôm tiền bỏ trốn”, Waldmann nói. Ông giải thích thêm, hình thức gian lận thương mại điện tử này đã tồn tại nhiều năm, nhưng AI tạo sinh khiến thủ đoạn của kẻ xấu trở nên tinh vi hơn, khó bị đội ngũ kiểm duyệt trên các nền tảng như TikTok Shop hay Amazon phát hiện.
Tháng 3, Amazon cho biết, một bộ công cụ AI đã giúp theo dõi hàng giả và các danh mục sản phẩm vi phạm trên nền tảng của mình. Trong khi đó, TikTok sử dụng kết hợp kiểm duyệt của con người và AI để theo dõi tài khoản và danh mục gian lận. Công ty có những công cụ phát hiện nội bộ, đồng thời hợp tác với một số đơn vị bên ngoài để xử lý nhiệm vụ như xác thực hàng xa xỉ đã qua sử dụng. Waldmann nói: “Về cơ bản, chúng tôi dùng AI đối phó với AI”.
Trong báo cáo mới công bố tuần này, TikTok thông báo đã từ chối 70 triệu sản phẩm và loại 700.000 người bán vì nhiều vi phạm chính sách khác nhau trong 6 tháng đầu năm 2025. Công ty cho biết: “Khi cộng đồng người bán và nhà sáng tạo của chúng tôi mở rộng trên toàn cầu, đồng thời khả năng phát hiện sản phẩm vi phạm được cải thiện, số lượng sản phẩm vi phạm mà chúng tôi ngăn không cho xuất hiện trên nền tảng cũng tăng”.
TikTok Shop hiện là ưu tiên hàng đầu của công ty với những mục tiêu tăng trưởng đầy tham vọng, vốn là thách thức lớn với đội ngũ nhân viên tại Mỹ. Năm ngoái, công ty đạt doanh số 100 triệu USD chỉ trong một ngày Black Friday ở nước này.
Thu Thảo (Theo Business Insider, Mashable)