Новости

🤖 Нейросеть уверенно соврала. И это нормально

{$te}

Ты спрашиваешь у ИИ: «Какая планета самая близкая к Солнцу?» — он отвечает: «Венера». Звучит уверенно. Выглядит правдоподобно. А неправильно. Меркурий.

Знакомо?
В науке это называют библиографической конфабуляцией — красивое слово для ситуации, когда ИИ не просто ошибается, а всерьёз выдумывает несуществующие книги, факты, открытия. С таким видом, будто он лично это видел.

Почему так происходит? ИИ не «знает» истину. Он угадывает, какое слово пойдёт следующим, — на основе гигантского массива данных, где смешаны правда, устаревшая инфа и фейки. Иногда угадывает. Иногда — придумывает целую планету с названием и статьёй, которую никто не писал.

И вот что интересно. Мы — сектор информации ОИКТ Модельной ЦГБ им. Н.К. Крупской и команда КРОО РТИ «ЛИС» — сейчас активно исследуем эту тему. И выяснили: нет лучше полигона для тренировки навыка проверки фактов, чем астрономия.
Космос — идеальная среда для галлюцинаций. Данных мало, объекты уникальны, проверка занимает месяцы. ИИ может «найти» экзопланету, которой нет, — и учёные потратят годы на пустышку. А может пропустить настоящую — и открытие потеряно.
Но космос — это же и лучший тренажёр. Данные о нём обновляются каждый день. То, что нейросеть считала правдой год назад, сегодня может быть опровергнуто новым снимком телескопа. Проверяешь — и сразу видишь разницу.

Правило простое: любой факт от ИИ должен пройти проверку через независимый источник. Не запрещать технологию — а учиться с ней работать.
Следите за публикациями — будем делиться лайфхаками, как отличить факт от вымысла и превратить общение с ИИ из лотереи в осознанный исследовательский процесс 🌌

#ИИграмотность #нейросети #библиотека #цифроваягигиена #астрономия #проверкафактов #ЛИС #МодельнаяБиблиотека
События
Made on
Tilda