전체 글
-
deepseek r1 distill function call review카테고리 없음 2025. 2. 14. 19:14
https://github.com/akswnd98/owlagent GitHub - akswnd98/owlagentContribute to akswnd98/owlagent development by creating an account on GitHub.github.comdeepseek r1 distill은 기본적으로 function call을 native하게 지원하지 않는다.그런데 써 보면 알겠지만 지능이 상당히 좋다.지금 까지 나왔던 다른 소형 (rtx3090이나 맥북에서 돌릴만한) 모델들과 비교하면 한 두 단계 위이다.이대로 버리기엔 아까워서 prompt를 깍아서 function call 기능을 직접 구현해 봤다.deepseek 공식 홈페이지를 보면 알겠지만,Chat template을 사용해야 하고, ..
-
llama-cpp-python 설치카테고리 없음 2025. 2. 10. 12:43
llama-cpp-python은 pip로 install 과정에는 cmake와 visual studio build tools나 mingw로 바이너리를 빌드하는 과정이 있다.따라서 빌드를 위한 환경설정에 유의해서 설치해야 한다. 설치 과정1. visual studio 설치를 켜고, c++를 사용한 데스크톱 개발에 들어가서 각종 빌드 도구들을 설치해 준다. 2. cuda를 설치한다. cuda를 설치할 때 지원하는 cuda 버전을 확인해야 한다. 2. set "CMAKE_ARGS=-DGGML_CUDA=on" 를 터미널에 입력해서, cuda를 사용하겠다고 명시한다. 3. pip install --upgrade --force-reinstall --no-cache-dir llama-cpp-python 를 실행한다.다..
-
모순 의심을 습관화 하자카테고리 없음 2025. 1. 24. 20:36
클린코드를 작성하기 위해 여러 가지 원칙을 지키기 위해 열심히 사고한다면 꼭 빼먹지 말아야 하는 과정이 있는 거 같다.내가 설정한 목표가 모순이 아닌지 check! 하는 것이다. 캡슐화 원칙과 최대한 일반적인 인터페이스를 제공하겠다는 것은 서로 상충될 때가 많다.이건 사실 오래 고민할 필요가 없다.왜냐하면 캡슐화 원칙은 숨기려는 것이고, 일반적인 인터페이스를 제공하는 것은 많이 공개하려는 것일 수 있기 때문이다.하지만 이 단순한 모순을 눈치채지 못한다면 시간낭비를 많이 할 수도 있다는 거다.그래서 뭔가 고민이 길어진다면, 한 번쯤은 "내가 설정한 목표가 모순이지는 않을까?"라고 생각해 보는 것이 좋다.
-
ASI로 가는 길카테고리 없음 2025. 1. 21. 03:45
너무 좋은 영상을 발견해서 공유한다.ASI로 가는 길에 대한 내용을 정리하자면 다음과 같다. level 1 agi 모델 -> test time compute -> 새로운 지식 데이터 생성 -> 더 큰 모델 학습 (training time compute) -> 압축-> level 2 agi 모델 -> ...-> ... 이걸 n step 반복.어느 순간 asi 등장. 이게 openai가 o1을 만든 과정일 것이라고 생각하는 모양이다. https://www.youtube.com/watch?v=bTpIvRfVREg https://ameli.notion.site/OpenAI-O1-17e2eb5de6448046b7b6d4f4b8d73ced OpenAI O1 의 구조 | NotionBFACTORY 노정석 (chest..