Google Deepmind Research представляет FunSearch новый метод искусственного интеллекта для поиска новых решений в математике и компьютерных науках
Новый метод искусственного интеллекта FunSearch от Google Deepmind Research для поиска новых решений в математике и компьютерных науках
Лингвистические модели с огромным потенциалом в плане понимания и генерации текста, позволяя им воспринимать и создавать ответы, которые подражают человеческому языку, улучшая коммуникацию между машинами и людьми. Эти модели являются гибкими и адаптивными, их можно применять в различных задачах, включая перевод языка, суммирование текста, ответы на вопросы, генерацию текста, анализ настроений и многое другое. Их гибкость позволяет использовать их в различных отраслях и приложениях.
Однако лингвистические модели иногда могут показывать галлюцинации, что может привести к выдаче неправдоподобных утверждений. Большие лингвистические модели, такие как модели GPT, являются высокоразвитыми в плане понимания и генерации языка, но всё же могут порождать конфабуляции по нескольким причинам. Если входные данные или подсказка, предоставленные модели, являются неоднозначными, противоречивыми или вводят в заблуждение, модель может порождать конфабулированные ответы на основе своего толкования входных данных.
Исследователи из Google DeepMind предлагают преодолеть эту ограниченность с помощью метода, названного FunSearch. Он объединяет предварительно натренированную лингвистическую модель и оценщик, который предотвращает конфабуляции и неправильные идеи. FunSearch развивает программы с низкими баллами в программы с высокими баллами, чтобы обнаружить новые знания, объединяя несколько важных компонентов. FunSearch порождает программы, генерирующие решения.
- ‘Ученые МИТ раскрывают новые понимания связей между мозгом и слухом с помощью передовых моделей нейронных сетей’
- Исследователи Стэнфордского университета представляют единый фреймворк искусственного интеллекта для объединения и взаимного учета атрибуций в больших языковых моделях (LLM).
- EPFL и исследователи Apple делают открытым исходный код 4M фреймворк искусственного интеллекта для обучения многомодальных моделей основы с использованием десятков модалей и задач.
FunSearch работает как итеративный процесс, в котором система выбирает определенные программы из текущего набора программ. Эти выбранные программы затем обрабатываются лингвистической моделью, которая инновационно развивает их, генерируя новые программы, которые проходят автоматическую оценку. Самые перспективные программы возвращаются в набор существующих программ, устанавливая самовоспроизводящуюся петлю.
Исследователи выбирают лучше себя проявляющие программы и подают их обратно в лингвистические модели в качестве подсказок для их улучшения. Они начинают с исходной программы в качестве каркаса и эволюционируют только критическую логику программного управления. Они устанавливают жадный каркас программы и принимают решения, размещая функцию приоритета на каждом шагу. Они используют методы островной эволюции для поддержания большого набора разнообразных программ. Они асинхронно масштабируют его, чтобы расширить область применения своего подхода и найти новые результаты.
FunSearch использует ту же общую стратегию упаковки в ящики. Вместо того чтобы упаковывать предметы в ящики с наименьшей вместимостью, он назначает предметы с наименьшей вместимостью только в случае очень плотного расположения после размещения предмета. Эта стратегия исключает маленькие зазоры в ящиках, которые маловероятно будут заполнены. Один из важных компонентов FunSearch заключается в том, что он работает в пространстве программ, а не напрямую ищет конструкции. Это дает FunSearch потенциал для применения в реальном мире.
Конечно, это только начальная фаза. Развитие FunSearch будет естественным образом сопровождать общую эволюцию лингвистических моделей. Исследователи стремятся расширить ее функциональность, чтобы справиться с различными важными научными и инженерными проблемами, присутствующими в обществе.
