Po tym, jak w internecie pojawiły się liczne deepfake’i, działanie darmowej wersji próbnej Midjourney zostało wstrzymane. Co wpłynęło na podjęcie takiej decyzji?
Darmowe wersje Midjourney wstrzymane
Wygląda na to, że serwis Midjourney, umożliwiający generowanie obrazów przy użyciu sztucznej inteligencji, okazał się być zbyt niebezpieczny w rękach ludzi. Podczas procesu tworzenia niezwykle realistycznych obrazów doszło do tworzenia deepfake’ów oraz licznych nadużyć. W efekcie postanowiono wstrzymać bezpłatne wersje próbne.
Po tym, jak w internecie pojawiło się mnóstwo sfabrykowanych zdjęć, m. in. z rzekomego aresztowania Donalda Trumpa czy papieża Franciszka, spacerującego w puchowej kurtce, David Holz, będący założycielem i dyrektorem generalnym platformy Midjourney, podjął decyzję o wstrzymaniu darmowej wersji, za powód podając „nadzwyczajny popyt i nadużycia próbne”.
Na początku platforma umożliwiała każdej osobie zarejestrowanie się przy zastosowaniu Discorda oraz darmowe wygenerowanie 25 obrazów. Późniejsza subskrypcja wiązała się z abonamentem w wysokości 10 dolarów za miesiąc.
Piąta wersja platformy wyjątkowo doskonała
Najnowsza, piąta wersja platformy Midjourney, sprawiła, że generowanie obrazów znacznie się poprawiło, przez co narzędzie to stało się jawnym sposobem na rozprzestrzenianie dezinformacji, o której ostrzegali eksperci w ciągu ostatnich lat.
Obrazy tworzone przez starszą wersję wyróżniały się między innymi zniekształconymi dłońmi, a także niższym poziomem realizmu. Teraz jednak mamy do czynienia z naprawdę potężnym narzędziem, które wręcz uniemożliwia właściwe rozpoznanie pochodzenia grafik. System też radzi sobie doskonale z generowaniem celebrytów, do których AI ma dostęp z licznych baz internetowych.
Choć firma już w zeszłym roku udostępniła listę zakazów, nie każdy się do nich stosował, dlatego też teraz ma zostać poszerzona, przez wprowadzenie zakazów używania niektórych terminów, do których m. in. należy teraz słowo „aresztowany”. Mimo to ograniczenie można łatwo ominąć, aby system wygenerował obraz, tak, jak zrobiło to The Verge tworząc monit „Donald Trump w kajdankach otoczony przez policję”, zamiast „aresztowanie Donalda Trumpa”.
