간단하게 만들어진 모델에 대해서 테스트를 해볼 수 있다고 해서 테스트해 봤습니다.
HuggingChat Assistants 를 이용하면 테스트해 볼 수 있습니다. 대화는 무제한으로 할 수 있는 건 아닙니다.
메시지 제한
HuggingChat은 분당 약 5개의 메시지로 제한되어 있습니다1. 이는 짧은 시간 동안 너무 많은 요청을 보내는 것을 방지하기 위한 조치입니다.
일일 제한
하루에 최대 500개의 메시지를 보낼 수 있습니다. 이 제한을 초과하면 "You are sending too many messages. Try again later." 라는 오류 메시지가 표시될 수 있습니다.
토큰 제한
봇의 최대 토큰 제한은 1,512개입니다2. 이는 봇이 생성할 수 있는 응답의 길이를 제한합니다. 때문에 긴 응답을 요구하는 경우 답변이 완전하지 않을 수 있습니다.
세션 제한
HuggingChat의 현재 버전(v0)에서는 익명 세션 쿠키만 사용합니다. 따라서 브라우저를 전환하거나 쿠키를 지우면 현재 대화 내용을 잃게 됩니다.
https://huggingface.co/chat/assistants
위 사이트로 이동합니다.
좌측 하단에 Login 을 클릭해 로그인합니다.
Assistants 에서 다른 사람들이 만들어 놓은 채팅창을 사용해도 됩니다.
저는 llama 3.2 vision 을 테스트해볼 거라서 새로 만들었습니다.
+Create new assistant 를 클릭합니다.
아래 표시된 모델을 반드시 선택하고
다른 건 아무렇게나 원하는 대로 넣으면 됩니다.
start messages 에 하나는 넣어줍니다.
만들어지면 아래와 같은 화면이 나오고 New chat 버튼을 클릭합니다.
처음에 이미지 첨부가 안 되는데 시작할 때 start message 를 먼저 누르고 나면 이미지 업로드가 가능해집니다.
이미지 파일 업로드 후 질문합니다.
결과 - 자동차 번호를 물어봤습니다.
아래 이미지로 해당 이미지에 대해서 설명해 달라고 했습니다.
https://hf.co/chat/assistant/670e4601272c4a36a19834ec
Torch not compiled with CUDA enabled 에러 해결하기 (0) | 2024.10.15 |
---|---|
로컬에서 Llama 3.2 Vision 돌려보기 (0) | 2024.10.15 |
PySide6 를 이용해 100만건 데이터 바인딩 및 가상화 (0) | 2024.10.12 |
OPEN AI 를 이용해 SQLite 쿼리 하기 (0) | 2024.10.09 |
Cohere API 사용해 보기 (0) | 2024.10.04 |