DALL-E مولد تصویر OpenAI اکنون می تواند چهره انسان را ویرایش کند
DALL-E ،OpenAI به کاربران برنامه تولید کننده هنر هوش مصنوعی خود اجازه می دهد تا تصاویر با چهره انسان را ویرایش کنند. این ویژگی قبلاً به دلیل ترس از سوء استفاده غیرمجاز بود. اما در نامه‌ای که به بیش از میلیون‌ها کاربر DALL-E ارسال شد. OpenAI می‌گوید پس از بهبود فیلترهای خود برای حذف تصاویری که حاوی «جنسی، سیاسی و خشونت‌آمیز هستند، دسترسی را باز میکند».
این ویژگی به کاربران اجازه می دهد تصاویر را به روش های مختلف ویرایش کنند. آنها می‌توانند برای مثال عکس شخصی را آپلود کنند و تغییراتی از تصویر ایجاد کنند. یا می‌توانند ویژگی‌های خاصی مانند تغییر لباس یا مدل موی شخصی را ویرایش کنند. این ویژگی بدون شک برای بسیاری از کاربران در صنایع خلاق، از عکاسان گرفته تا فیلمسازان، مفید خواهد بود.
OpenAI در نامه خود به مشتریان با اعلام این خبر گفت: “با بهبود سیستم ایمنی ما، DALL·E اکنون آماده پشتیبانی از این موارد استفاده لذت بخش و مهم است. در حالی که احتمال آسیب ناشی از دیپ فیک ها را به حداقل می رساند.”
این تصمیم بخشی از مذاکره مداوم سازندگان مولدهای هنر هوش مصنوعی با کاربران خود است. زیرا آنها تلاش می کنند مضرات احتمالی فناوری را بررسی کنند. OpenAI به‌عنوان یک شرکت با بودجه خوب و پیوندهایی با غول‌های فناوری مانند مایکروسافت، رویکردی نسبتا محتاطانه در پیش گرفته است. اما این شرکت توسط رقبایی مانند Stable Diffusion که محدودیت‌های کمتری را برای کاربران ایجاد میکند. پشت سر گذاشته شده است. این منجر به توسعه سریعتر فناوری می شود. اما همچنین برنامه های مخرب را بسیار آسان تر می کند. به عنوان مثال، Stable Diffusion در حال حاضر برای تولید دیپ فیک های پورنوگرافیک افراد مشهور استفاده می شود.
مسدود کردن چنین مطالب صریح با DALL-E برای OpenAI آسان است. شرایط استفاده این شرکت همچنین کاربران را از آپلود تصاویر افراد بدون رضایت آنها منع می کند. (اگرچه این امر اساساً با مدل دسترسی فعلی آن به طور فعال غیرممکن است). با این حال، هیچ فیلتر محتوایی کامل نیست. و ممکن است موارد استفاده مضری وجود داشته باشد که ظریف‌تر از هرزه‌نگاری غیرموافقانه باشد.