ollama 의 deepseek 를 python 에서 사용하기

ollama 의 deepseek 를 python 에서 사용하기

 

ollama 로 deepseek 를 실행하는 방법은 이전 포스팅을 참고해주세요

2025.02.09 - [IT/AI] - ollama 를 이용해 deepseek 사용해 보기

ollama 를 이용해 deepseek 사용해 보기

 

이번에는 python 에서 deepseek 를 이용하는 방법을 알아봅니다.

기존에 llama 를 사용하던 코드에서 모델만 바꿔주면 됩니다.

# pip install ollama

from ollama import chat
from ollama import ChatResponse

response: ChatResponse = chat(model='deepseek-r1:32b', messages=[
  {
    'role': 'user',
    'content': 'Please write hello world code in python',
  },
])
print(response['message']['content'])

결과

 

gradio 를 이용하면 간단한 채팅창에서 대화할 수 있습니다.

# pip install ollama langchain_ollama gradio
from langchain_ollama import ChatOllama

model = ChatOllama(model="deepseek-r1:32b", temperature=0)

# response = model.invoke("대한민국의 수도는 어디입니까?")
# print(response.content)

import gradio as gr
def echo(message, history):
    response = model.invoke(message)
    return response.content

demo = gr.ChatInterface(fn=echo, title="deepseek-r1 Bot")
demo.launch()

결과