DARPA хочет научить ИИ здравому смыслу
Методы машинного обучения далеко не совершенны. В гражданской сфере ошибки ИИ — например, глупый и смешной перевод — могут вызывать смех или раздражение. Но ошибки военного ИИ чреваты катастрофой. Поэтому DARPA решило обучать алгоритмы принятию решений, исходя из здравого смысла.
Главная претензия исследовательского агентства Минобороны США к существующим методам машинного обучения — полное отсутствие здравого смысла. Алгоритмы показывают очень высокую производительность при работе с шаблонами и образами, на которых они обучены, но впадают в ступор, если ситуация хотя бы немного отличается от того, что заранее прописано в программном коде.
Военные хотели бы, чтобы принимающий решениях во время боевых действий ИИ в точности понимал контекст.
В DARPA приводят в пример следующую задачу: «Студент посадил два одинаковых растения в горшки, заполненные одинаковой по составу и объему почвой. Оба растения получили равные доли воды. Одно из этих растений поставили рядом с окном, а другое — в темной комнате. Растение у окна будет выделять больше: (A) кислорода, (B) углекислого газа, © воды».
Стандартные способы машинного обучения вряд ли помогут алгоритму справиться с этой задачей. Тут необходимо, чтобы ПО разобралось, как именно работает фотосинтез. Нужно изучить контекст, а только потом давать ответ, пишет Technology Review.
Этот метод обучения ИИ, похожий на приемы образования в человеческом обществе, противоположен тому, чем сейчас занимаются ИТ-корпорации. Их алгоритмы научились почти идеально выполнять специализированные задачи, но DARPA нужно больше.
Можно сказать, что военные ученые запускают программу по созданию так называемого сильного ИИ. Того самого, которого так боится Илон Маск и другие ИИ-скептики.
«Отсутствие здравого смысла не позволяет ИИ-системе понять мир, общаться с людьми естественным образом, вести себя разумно в непредвиденных ситуациях и учиться на новом опыте, — объясняет менеджер программ DARPA Дейв Ганнинг. — Его отсутствие, пожалуй, является самым главным барьером между узко ориентированными приложениями, которые мы имеем сегодня, и более общими приложениями, которые мы хотим создать в будущем».
Раньше США считались лидерами в ИИ, но огромные деньги позволяют Китаю быстро сокращать этот разрыв. По данным исследовательской фирмы Pitchbook, Китайские ИТ-гиганты уже вкладывают в разработку ИИ-систем в 10 раз больше американских.