AI
-
재귀적 자기 개선 모델AI 2024. 7. 17. 12:30
"llm이 모든 것을 학습할 필요는 없다. 다만 자신을 개선하는 방법만 학습하면 된다."근데 이 것이 가능하려면 자기 자신이 학습 데이터를 만들어내는 과정이 필요하다.이 것은 근거와 결과의 시너지 작용을 통해 설명할 수 있다.결과를 내기 위해 근거를 생성하면 더 좋은 결과를 낼 수 있다.그리고 좋은 결과를 많이 학습하면 더 좋은 근거를 낼 수 있다.이 두 가지 작용이 시너지를 일으켜 자기 자신이 학습할 데이터를 자신이 개선할 수 있다는 생각이다. 생각해 보면 인간도 마찬가지이다.사람도 자신의 삶을 개선하기 위해 끈임없이 생각한다.
-
email 사무 자동화 testAI 2024. 7. 16. 12:40
https://github.com/akswnd98/langchain-agent-test GitHub - akswnd98/langchain-agent-testContribute to akswnd98/langchain-agent-test development by creating an account on GitHub.github.com gemma_2_27b_4q_agent_test.ipynb에 searxng와 gmail api를 사용하여 검색결과를 자동으로 email로 보내주는 예제가 있다. gpu 구동 환경은 rtx3090ti 이다.내가 봤을 때 간단한 사무 자동화는 개인용 pc에서도 충분히 구동 가능하다.아마 RAG에 사용할 문서만 충분하다면 회사 사무 업무도 자동화가 충분히 가능할 거 같은데,짬이 날 ..
-
langchain agent로 사용할 때 llm 모델들 테스트AI 2024. 7. 15. 22:32
https://github.com/akswnd98/langchain-agent-test GitHub - akswnd98/langchain-agent-testContribute to akswnd98/langchain-agent-test development by creating an account on GitHub.github.com 다음 4가지 방식을 테스트 해 보았다.1. llama-3-8b-it2. llama-3-8b-it lora fintuned with xz56/react-llama dataset (https://huggingface.co/datasets/xz56/react-llama)3. gemma-2-9b-it4. gemma-2-27b-it 4bit quantized (https://huggi..
-
chain에 대한 나만의 구현AI 2024. 7. 12. 22:07
# 본문랭체인을 공부하다가 LCEL이라는 내용을 보게 되었는데, LCEL 안에 chain과 관련된 코드를 보고 타입 유추가 잘 안돼서 나만의 방식을 고민해 보았다.from typing import TypeVar, GenericInput = TypeVar('Input')Output = TypeVar('Output')Mid = TypeVar('Mid')NextOutput = TypeVar('NextOutput')class RawConverter (Generic[Input, Output]): def convert (self, input: Input) -> Output: return inputclass Converter (RawConverter[Input, Output]): def __or__ (sel..
-
앞으로 한 동안 추론용 AI 반도체(NPU)가 중요한 이유 (openai의 시각으로 본)AI 2024. 7. 5. 18:27
일단 llm base model 학습에 대한 이야기는 접어두겠다.왜냐하면 기본적으로 gpu 수백, 수천 개로 진행하는 base model 학습은 대기업이 할 수 있는 일이고,최근에 opensource로 base model들이 잇따라 공개되면서 ai 서비스 구축이라는 측면에서,대부분의 계층의 사람들이 base model 학습과는 거리가 멀기 때문이다.한 마디로, 이 글에서는 ai 보급화 측면에서 이야기 한다. finetuning에 대한 openai의 관점을 엿볼 수 있는 페이지가 있다.https://platform.openai.com/docs/guides/fine-tuning 이 페이지에 보면Once a model has been fine-tuned, you won't need to provide as m..
-
-
우분투에서 anaconda init 후에 자동 activate 막는 법AI 2024. 6. 29. 09:41
conda config --set auto_activate_base false