Deepseek 편집하기

DeepSeek-R1 설치 사용법

언어 모델을 오픈소스 프레임으로 설치 활용하는 방법

==설치 사용법==

[https://devloo.tistory.com/entry/DeepSeek-DeepSeek-R-1%EB%A5%BC-%EB%82%B4-PC%EC%97%90-%EC%84%A4%EC%B9%98%ED%95%98%EA%B3%A0-%EC%82%AC%EC%9A%A9%ED%95%98%EB%8A%94-%EB%B0%A9%EB%B2%95 Ollama 이용 참조]

로컬에서 설치 사용법

1. Ollama 설치
2. LLM 모델 (DeepSeek-R1) 설치 

===Ollama 설치===
Ollama 사이트에서 다운로드 설치

[[file:ollama설치.png | 500px]]

터미널에서 설치 확인

 ollama -v

[[file:ollama설치01.png | 500px]]


====Ollama 실행 옵션====
Ollama 실행 옵션 

<pre>
PS C:\Users\a> ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.
</pre>

====Ollama local 저장소====

Ollama의 로컬 레지스트리는 운영 체제에 따라 다른 위치에 저장됩니다:
기본 저장 위치
<blockquote>
macOS: ~/.ollama/models

Linux: /usr/share/ollama/.ollama/models

Windows: C:\Users\%username%\.ollama\models
</blockquote>

이 디렉토리에는 다운로드한 모델 파일들이 저장됩니다. 주요 구성 요소는 다음과 같습니다:
<blockquote>
Model blobs: 모델 파라미터와 데이터를 저장하는 대용량 파일들
<br>Manifests: 모델의 메타데이터와 구성 정보를 포함하는 파일들
</blockquote>
저장 위치 변경
기본 저장 위치를 변경하고 싶다면 '''OLLAMA_MODELS 환경 변수를 설정'''하면 됩니다. 예를 들어:

<blockquote>
bash

export OLLAMA_MODELS="/path/to/your/custom/directory"
</blockquote>

이 환경 변수를 설정하면 Ollama는 지정된 디렉토리에 모델을 저장하고 로드합니다

저장 위치 확인
현재 모델 파일의 위치를 확인하려면 다음 명령어를 사용할 수 있습니다:
<blockquote>
bash

ollama show --modelfile
</blockquote>

이 명령어는 현재 모델 파일의 위치를 표시해줍니다

Ollama의 로컬 레지스트리를 관리하고 모델 파일의 위치를 파악하는 것은 디스크 공간 관리와 모델 관리에 중요합니다. 특히 여러 모델을 사용하거나 대용량 모델을 다룰 때 유용합니다.

===DeepSeek R1 설치===
메모리 사이즈에 맞게 적당한 모델을 선택한다.

Ollama에서 Search로 찾는다. --> 이름 확인

[[file:DS_01.png|500px]]

모델 파일 설치

 ollama run deepseek-r1:8b

[[file:DS_02.png|500px]]


 설치 주의 사항: localhost(127.0.0.1) 접근성 조사
 [[#Windows에서 httpd 관련]]
* windows의 경우 IIS서비스가 기동 중인지 확인한다.
* IIS가 아니면, apache 서비스 설치 필요

===DeepSeek R1 실행==
Ollama에서 기동할 때 화면

[[file:llm_deepseek_r1_01.jpg|700px]]

<blockquote>
>>> /?

Available Commands:
  /set            Set session variables
  /show           Show model information
  /load <model>   Load a session or model
  /save <model>   Save your current session
  /clear          Clear session context
  /bye            Exit
  /?, /help       Help for a command
  /? shortcuts    Help for keyboard shortcuts

Use """ to begin a multi-line message.
</blockquote>

==설지 관련 사항==
설치 관련 기타 사항에 대한 설명

===Windows에서 httpd 관련===
윈도우에서 기본으로 제공되는 것은 IIS 서버이다. 이것은 apache와 충돌이 되는데, 설치시 주의한다.

===IIS 서버 관련===
apache를 사용하던지, IIS를 사용하던지 1개만 사용해야 한다. 혹시 다른 어플리케이션에서 나도 모르게 IIS를 사용하는 경우에는 IIS를 내리고, apache를 변경하던지 해야 한다. 대부분의 linux machine은 apache를 사용하므로 주의.

====hosts 파일====
특히, '''C:\Windows\System32\drivers\etc'''의 hosts 파일에서 
<pre>
# localhost name resolution is handled within DNS itself.
	127.0.0.1       localhost
	::1             localhost
</pre>
으로, 127.0.0.1 (localhost)가 열려 있는 경우, 윈도우 부팅 중에 자동으로 IIS 서비스가 기동 되므로 이를 주석처리 한다. (default는 주석처리 된 것)

* default 상태
<pre>
# localhost name resolution is handled within DNS itself.
#	127.0.0.1       localhost
#	::1             localhost
</pre>

====강제 기동 정지====
* 명령 프롬프트 사용

 관리자 권한으로 명령 프롬프트를 실행합니다.

IIS 시작:
 net start w3svc

IIS 중지:
 net stop w3svc

IIS 관리자 사용
 'Windows 키 + R'을 눌러 실행 창을 엽니다.
 'inetmgr'을 입력하여 IIS 관리자를 실행합니다.
 좌측의 '사이트'를 선택한 후, 우측의 '시작' 또는 '중지' 버튼을 클릭합니다.

* PowerShell 사용
PowerShell을 관리자 권한으로 실행한 후 다음 명령어를 사용합니다:

IIS 시작: 

powershell
 Start-Service W3SVC
IIS 중지:

powershell
 Stop-Service W3SVC

* 서비스 관리 콘솔 사용
 'Windows 키 + R'을 누르고 'services.msc'를 입력하여 서비스 관리 콘솔을 엽니다.
 'World Wide Web Publishing Service'를 찾아 우클릭 후 '시작' 또는 '중지'를 선택합니다.

====netstat 점검 명령어====

'''netstat -an '''

포트번호 순서로 기동 중인지 확인 가능

* netstat 옵션확인, netstat -?
<pre>
프로토콜 통계와 현재 TCP/IP 네트워크 연결을 표시합니다.

NETSTAT [-a] [-b] [-e] [-f] [-i] [-n] [-o] [-p proto] [-r] [-s] [-t] [-x] [-y] [interval]

  -a            모든 연결 및 수신 대기 포트를 표시합니다.
  -b            각 연결 또는 수신 대기 포트 생성과 관련된 실행 파일을
                표시합니다. 잘 알려진 실행 파일이 여러 독립 구성 요소를
                호스팅할 경우 연결 또는 수신 대기 포트 생성과 관련된
                구성 요소의 시퀀스가 표시됩니다.
                이러한 경우에는 실행 파일 이름이 아래 [] 안에
                표시되고 위에는 TCP/IP에 도달할 때까지
                호출된 구성 요소가 표시됩니다. 이 옵션은 시간이
                오래 걸릴 수 있으며 사용 권한이 없으면
                실패합니다.
  -e            이더넷 통계를 표시합니다. 이 옵션은 -s 옵션과 함께 사용할 수
                있습니다.
  -f            외부 주소의 FQDN(정규화된 도메인 이름)을
 표시합니다.
  -i            TCP 연결이 현재 상태로 지속된 시간을 표시합니다.
  -n            주소 및 포트 번호를 숫자 형식으로 표시합니다.
  -o            각 연결의 소유자 프로세스 ID를 표시합니다.
  -p proto      proto로 지정한 프로토콜의 연결을 표시합니다. proto는
                TCP, UDP, TCPv6 또는 UDPv6 중 하나입니다. -s 옵션과 함께
                사용하여 프로토콜별 통계를 표시할 경우 proto는 IP, IPv6, ICMP,
                ICMPv6, TCP, TCPv6, UDP 또는 UDPv6 중 하나입니다.
  -q            모든 연결, 수신 대기 포트 및 바인딩된 비수신 대기 TCP
                포트를 표시합니다. 바인딩된 비수신 대기 포트는 활성 연결과 연결되거나
                연결되지 않을 수도 있습니다.
  -r            라우팅 테이블을 표시합니다.
  -s            프로토콜별 통계를 표시합니다. 기본적으로 IP, IPv6, ICMP,
                ICMPv6, TCP, TCPv6, UDP 및 UDPv6에 대한 통계를 표시합니다.
                -p 옵션을 사용하여 기본값의 일부 집합에 대한 통계만 지정할 수 있습니다.
  -t            현재 연결 오프로드 상태를 표시합니다.
  -x            NetworkDirect 연결, 수신기 및 공유 끝점을
                표시합니다.
  -y            모든 연결에 대한 TCP 연결 템플릿을 표시합니다.
                다른 옵션과 함께 사용할 수 없습니다.
  interval      다음 화면으로 이동하기 전에 지정한 시간(초) 동안 선택한 통계를 다시 표시합니다.
                통계 다시 표시를 중지하려면 CTRL+C를 누르세요.
                이 값을 생략하면 현재 구성 정보가
                 한 번만 출력됩니다.
</pre>

[[분류:AI]]