Гимназията в Ню Джърси се бори със скандал заради изображения, генерирани от AI

Развлечение

Разследване от страна на полицията и реакция от страна на родителите бяха предизвикани от генерирани от AI неприлични снимки на ученички в гимназия в Ню Джърси. Съученици от мъжки пол създадоха снимките, които след това бяха споделени, според доклад.

Инцидентът е в центъра на гимназията Westfield, която се намира в богат анклав на около 25 мили западно от Манхатън, според Forbes.

Студенти казаха на The Wall Street Journal, че един или повече от техните приятели са създали тези порнографски снимки, използвайки интернет приложение за изкуствен интелект, което впоследствие са споделили със своята социална медийна мрежа.

Една разтревожена майка каза, че на 16 октомври дъщеря й е забелязала странно поведение сред второкласниците в училището.

Истинската същност на тези дейности - създаването и разпространението на порнографски изображения, създадени чрез промяна на интернет снимки на момичета и споделени в групови чатове - не беше разкрита до 20 октомври от състудент.

Родителите също така заявиха, че администраторите в училището казаха на няколко деца от женски пол за връзката им с тези фалшиви, графични снимки. Училището обаче не би потвърдило дали някой от служителите е видял тези снимки от първа ръка.

Дорота Мани, друг родител, изрази притесненията си относно 14-годишната си дъщеря Франческа, чиято снимка беше използвана, за да се направи „deepfake“. Усъвършенстваните фалшификати, които много приличат на истински снимки, се наричат ​​deepfakes. Мани подаде полицейски доклад, след като изрази загриженост относно възможните ефекти върху личния и професионалния живот на дъщеря си.

Sensity, бизнес за визуално разузнаване на заплахи, твърди, че над 90% от deepfake изображенията са изрични по природа и често включват подобие на добре познати хора.

Родителите на около 1900 ученици в Westfield High School бяха информирани за събитието от директора Мери Асфендис. Тя им даде думата си, че снимките са премахнати и вече не се използват.

Асфендис подчерта колко сериозна е ситуацията и колко важно е учениците да разберат последствията от своето поведение. Тя също обеща да продължи да инструктира учениците как да използват технологията отговорно.

Не се споделя информация за това каква част от учениците са участвали в изработването на тези измислени нецензурни снимки и какви дисциплинарни мерки са предприети.

Първата жена кмет на Уестфийлд, Шели Бриндъл, обеща да се бори за правата на жените и момичетата и изрази дълбоката си загриженост.