Метка: ИИ, Ошибки, Небезопасность
Нейросети и нейросети
Ме́тки: Небезопасность
В мае 2023 года компания Google запустила функцию Overviews – инструмент, который позволяет получать краткие ответы от искусственного интеллекта на вопросы пользователей.
Однако, как только эта функция стала доступна, в социальных сетях начали распространяться скриншоты, демонстрирующие ошибочные и потенциально опасные ответы, выдаваемые нейросетью. Например, она может предлагать добавлять клей в пиццу для лучшего «прилипания» сыра, или употреблять в пищу камни, так как они богаты витаминами, что может быть опасным для здоровья.
Это вызвало реакцию пользователей и самой компании Google.
Реакция компании Google
- Представители компании Google признали, что были осведомлены о некоторых тревожных результатах работы Overviews и начали работу над улучшением алгоритмов и контента, предоставляемого функцией.
- Они также заверили, что будут продолжать следить за безопасностью и качеством ответов, предоставляемых нейросетью, и принимать меры для предотвращения распространения ошибочных или опасных рекомендаций.
Хотя Google стремится улучшить свою систему, важно помнить, что нейронные сети не являются совершенными и могут иногда давать неправильные или глупые ответы. Поэтому пользователи должны быть критичными и осторожными при использовании таких инструментов, проверять информацию и быть ответственными за свои действия.
Также стоит отметить,
что компания Google продолжает работать над развитием своих технологий и постоянно обновляет свою продукцию, стремясь предоставить пользователям качественный и безопасный опыт.