Niềm vui và nỗi khiếp sợ của hình ảnh AI

Các công cụ tạo hình ảnh như Khuếch tán ổn định có thể tạo ra những bức ảnh trông giống như những bức ảnh thật hoặc những hình ảnh minh họa được làm thủ công mô tả về bất cứ thứ gì mà một người có thể tưởng tượng. Điều này có thể thực hiện được nhờ các thuật toán học cách liên kết các thuộc tính của một bộ sưu tập lớn các hình ảnh được lấy từ cơ sở dữ liệu web và hình ảnh với các nhãn văn bản được liên kết của chúng. Các thuật toán học cách hiển thị hình ảnh mới để khớp với lời nhắc văn bản trong một quy trình liên quan đến việc thêm và loại bỏ nhiễu ngẫu nhiên cho hình ảnh.

Vì các công cụ như Stable Diffusion sử dụng hình ảnh cóp nhặt từ web nên dữ liệu đào tạo của họ thường bao gồm các hình ảnh khiêu dâm, khiến phần mềm có khả năng tạo ra các hình ảnh khiêu dâm mới. Một mối quan tâm khác là những công cụ như vậy có thể được sử dụng để tạo ra những hình ảnh có vẻ như cho thấy một người thực đang làm điều gì đó gây tổn hại – điều gì đó có thể lan truyền thông tin sai lệch.

Chất lượng hình ảnh do AI tạo đã tăng vọt trong năm rưỡi qua, bắt đầu từ việc công bố hệ thống có tên DALL-E của công ty nghiên cứu AI OpenAI vào tháng 1 năm 2021. Nó đã phổ biến mô hình tạo hình ảnh từ lời nhắc văn bản và được tiếp nối vào tháng 4 năm 2022 bởi một người kế nhiệm mạnh mẽ hơn, DALL-E 2, hiện đã có sẵn dưới dạng dịch vụ thương mại.

Ngay từ đầu, OpenAI đã hạn chế ai có thể truy cập trình tạo hình ảnh của nó, chỉ cung cấp quyền truy cập thông qua lời nhắc lọc những gì có thể được yêu cầu. Điều này cũng đúng với một dịch vụ cạnh tranh có tên Midjourney, được phát hành vào tháng 7 năm nay, đã giúp phổ biến nghệ thuật do AI tạo ra bằng cách có thể truy cập rộng rãi.

Stable Diffusion không phải là trình tạo nghệ thuật AI mã nguồn mở đầu tiên. Không lâu sau khi phiên bản gốc DALL-E được phát hành, một nhà phát triển đã tạo ra một bản sao có tên DALL-E Mini dành cho bất kỳ ai, và nhanh chóng trở thành một hiện tượng chế meme. DALL-E Mini, sau này được đổi tên thành Craiyon, vẫn bao gồm các lan can tương tự như trong các phiên bản chính thức của DALL-E. Clement Delangue, Giám đốc điều hành của HuggingFace, một công ty tổ chức nhiều dự án AI mã nguồn mở, bao gồm Stable Diffusion và Craiyon, cho biết sẽ có vấn đề nếu chỉ một số công ty lớn kiểm soát công nghệ này.

Ông nói: “Nếu bạn nhìn vào sự phát triển lâu dài của công nghệ, làm cho nó cởi mở hơn, hợp tác hơn và hòa nhập hơn, thực sự tốt hơn từ góc độ an toàn. Ông nói, công nghệ khép kín khó hiểu hơn đối với các chuyên gia bên ngoài và công chúng, và sẽ tốt hơn nếu người ngoài có thể đánh giá các mô hình về các vấn đề như chủng tộc, giới tính hoặc thành kiến ​​về tuổi tác; Ngoài ra, những người khác không thể xây dựng trên công nghệ khép kín hàng đầu. Về mặt cân bằng, ông nói, lợi ích của công nghệ nguồn mở lớn hơn rủi ro.

Delangue chỉ ra rằng các công ty truyền thông xã hội có thể sử dụng Ổn định khuếch tán để xây dựng các công cụ của riêng họ để phát hiện các hình ảnh do AI tạo ra được sử dụng để phát tán thông tin sai lệch. Anh ấy nói rằng các nhà phát triển cũng đã đóng góp một hệ thống để thêm hình mờ vô hình vào hình ảnh được tạo bằng cách sử dụng Khuếch tán ổn định để chúng dễ theo dõi hơn và xây dựng một công cụ để tìm hình ảnh cụ thể trong dữ liệu đào tạo của mô hình để có thể loại bỏ những hình ảnh có vấn đề.

Sau khi quan tâm đến Sự Khuếch tán Không ổn định, Simpson-Edin trở thành người điều hành trong Sự Bất hòa Khuếch tán Không ổn định. Máy chủ cấm mọi người đăng một số loại nội dung, bao gồm cả hình ảnh có thể được hiểu là nội dung khiêu dâm dưới tuổi vị thành niên. Cô nói: “Chúng tôi không thể kiểm duyệt những gì mọi người làm trên máy của họ nhưng chúng tôi cực kỳ nghiêm ngặt với những gì được đăng. Trong tương lai gần, việc chứa đựng những tác động gây rối của việc tạo ra các tác phẩm nghệ thuật bằng AI có thể phụ thuộc nhiều vào con người hơn là máy móc.