Графический процессор Nvidia серии GeForce RTX 40.
Нвидиа
NVIDIA выпустила демо-версию нового чат-бота с искусственным интеллектом, который работает локально на некоторых ПК с GeForce RTX. Демонстрационное приложение под названием Chat with RTX можно загрузить бесплатно и позволяет пользователям запускать на своих ПК чат-бота с искусственным интеллектом, персонализированного с помощью своего контента.
Также: Лучшие чат-боты с искусственным интеллектом: ChatGPT и другие достойные внимания альтернативы.
Приложение, основанное на программном обеспечении NVIDIA TensorRT-LLM, может генерировать контент и обучаться на основе выбранного пользователем контента, включая файлы .txt, .pdf, .doc/.docx и .xml и даже URL-адреса видео на YouTube.
Выбрав контент для обучения бота, пользователи могут задавать ему персонализированные вопросы о предоставленном ими контенте. Например, бот может обобщить пошаговые инструкции в видео с инструкциями на YouTube или сообщить пользователю, какой тип батарей есть в его списке покупок.
Обучение бота предпочитаемому пользователем контенту делает процесс по-настоящему персонализированным, но тот факт, что все это происходит локально, сохраняет конфиденциальность пользовательских данных. Чат с RTX может давать быстрые ответы, сохраняя при этом всю пользовательскую информацию в безопасности, поскольку он не зависит от облачных сервисов, а это означает, что он также может работать без подключения к Интернету.
Также: ChatGPT против Copilot: какой чат-бот с искусственным интеллектом вам лучше?
Для работы бота требуется графический процессор NVIDIA GeForce RTX 30 Series или выше с объемом видеопамяти не менее 8 ГБ. Для общения с RTX также требуется Windows 10 или 11 и новейшие драйверы графического процессора NVIDIA.
NVIDIA заявляет, что ее программное обеспечение TensorRT-LLM в сочетании с генерацией с расширенным поиском (RAG) и ускорением RTX позволяет Chat с RTX предоставлять соответствующие ответы, используя локальные файлы в качестве набора данных и подключая их к LLM с открытым исходным кодом, таким как Mistral и Llama 2.
2024-02-14 18:44:00
1707936939
#Новый #чатбот #NVIDIA #искусственным #интеллектом #работает #локально #на #вашем #ПК #является #бесплатным
