Ми бачили, як штучний інтелект давав досить дивні відповіді на запити, оскільки чат-боти стають все більш поширеними. Сьогодні Reddit Answers опинився в центрі уваги після того, як модератор поскаржився на те, що інструмент штучного інтелекту надавав небезпечні медичні поради, які вони не могли відключити або приховати від перегляду.
Модератор побачив, що Reddit Answers радив людям, які страждають від хронічного болю, припинити приймати свої поточні ліки і приймати високі дози кратома, який є нерегульованою речовиною, що в деяких штатах є незаконною. Користувач сказав, що потім він запитав Reddit Answers про інші медичні питання. Він отримав потенційно небезпечні поради щодо лікування неонатальної лихоманки, а також деякі точні дії та пропозиції щодо використання героїну для полегшення хронічного болю. Кілька інших модераторів, зокрема з субреддитів, присвячених здоров’ю, відповіли на оригінальний допис, додавши свої занепокоєння щодо того, що вони не мають можливості вимкнути або позначити проблему, коли Reddit Answers надає неточну або небезпечну інформацію в їхніх спільнотах.
Представник Reddit повідомив 404 Media, що Reddit Answers було оновлено, щоб вирішити деякі проблеми, які турбували модераторів. «Це оновлення гарантує, що «Пов’язані відповіді» на чутливі теми, які раніше могли бути видимими на сторінці деталей публікації (також відомій як сторінка розмови), більше не будуть відображатися», — повідомив представник видання. «Ця зміна була впроваджена для поліпшення користувацького досвіду та підтримки належної видимості контенту на платформі». Ми звернулися до Reddit за додатковими коментарями щодо того, які теми виключаються, але на даний момент не отримали відповіді.
Хоча представник повідомив 404 Media, що Reddit Answers «виключає контент із приватних, ізольованих та NSFW-спільнот, а також деякі теми для дорослих», інструмент штучного інтелекту явно не здається придатним для належного надання медичної інформації, а тим більше для роботи з сарказмом, іронією або потенційно поганими порадами, які можуть давати інші користувачі Reddit. Окрім останнього кроку, спрямованого на те, щоб не з’являтися на «чутливих темах», не схоже, що Reddit планує надавати будь-які інструменти для контролю того, як і коли ШІ відображається в субреддітах, що може зробити і без того складне завдання модерації майже неможливим.
