Vecy

개요

Vecy이란?

Vecy는 사용자가 완전 비공개 LLM 및 로컬 파일(문서, 사진)과 채팅할 수 있는 Android AI 앱입니다. 휴대폰에 있는 로컬 파일을 자동으로 처리하고 색인화하며, 사용자가 직접 파일을 업로드할 수도 있습니다. Vecy는 LLM 응답을 향상시키기 위해 로컬 파일을 처리하는 RAG 도구를 제공합니다. 사용자는 다양한 소규모 LLM(0.5B ~ 3.5B 매개변수) 중에서 선택하고 로컬에 저장된 문서와 대화에 참여할 수 있습니다. 앱은 문서, 다운로드 및 DCIM 디렉터리 내의 파일(PDF, DOCX 문서, 이미지 등)을 자동으로 처리하여 장치에 로컬로 저장되는 임베딩 벡터를 생성합니다. 이러한 임베딩 벡터는 RAG(검색 증강 생성) 기능에 중요하며, 쿼리가 로컬 파일과 관련될 때 LLM의 기능을 향상시켜 보다 정확하고 관련성 높은 응답을 제공합니다.