Стартап RagaAI успешно привлек $4,7 млн финансирования для разработки программного инструмента, упрощающего обнаружение дефектов в нейронных сетях, пишет Bloomberg. Речь идет о проблемах современных систем искусственного интеллекта, таких как так называемые «галлюцинации» и неспособность предоставить важную информацию в определенные моменты времени.
Источники утверждают, что такие решения повысят надежность и безопасность систем искусственного интеллекта. Детищем стартапа является Гаурав Агарвал, 44-летний сотрудник NVIDIA и Texas Instruments. О необходимости создания такого инструмента он задумался после неприятного инцидента во время тестирования системы беспилотного вождения на дорогах Калифорнии. Агарвал был вынужден применить экстренное торможение, чтобы избежать столкновения, поскольку автоматизированное оборудование не смогло своевременно распознать препятствие на маршруте.
Как признался в интервью Bloomberg основатель RagaAI, с проблемами в работе с нейронными сетями он столкнулся во время работы в NVIDIA и Ola. По его словам, устранение ошибок в работе систем искусственного интеллекта важно во многих сценариях, предполагающих высокую степень ответственности. Примеры включают использование искусственного интеллекта для диагностики рака, обслуживания самолетов и подбора персонала.
Стартап RagaAI был основан в Калифорнии до того, как на рынок вышел популярный чат-бот OpenAI ChatGPT. Разработанная им платформа позволяет корпоративным заказчикам проводить более 300 тестов, выявляющих узкие места в работе систем искусственного интеллекта. Это позволяет выявлять проблемы с распознаванием объектов, появление «мусора» и ложных данных, выдаваемых за истину. Более того, разработка RagaAI позволяет блокировать атаки на языковые модели, которые созданы для работы даже в случае ошибок. Ключевой профессиональный персонал стартапа будет находиться в Бангалоре, Индия, а средства, собранные в ходе недавнего раунда финансирования, будут использованы для расширения бизнеса.
По словам руководителя компании, компания уже работает с несколькими крупными заказчиками в сферах электронной коммерции, авиации и медицинской визуализации. С платформой RagaAI нам уже удалось снизить количество ошибок в работе систем искусственного интеллекта на 90 %.
