Terry Very Good

[ChatGPT] 3. AutoGPT 원리/요약/심화(왜 잘 안될까?) 본문

신기술 습득/IDEA&Tool&API

[ChatGPT] 3. AutoGPT 원리/요약/심화(왜 잘 안될까?)

테리베리 2023. 6. 25. 17:20
728x90
반응형

1. AutoGPT 살펴보기
 - AutoGPT: Goal(목표)만 설정하면 알아서 결과를 가져오는 ChatGPT 활용 기술

(a). AutoGPT 원리
 - (사람) 목표 생기면 > 계획 세우고 > 생각하고 > 행동하고 > 결과가 목표에 맞는지 계속 확인(AutoGPT도 비슷)

(b). AutoGPT 심화
 - But > ChatGPT는 텍스트 입출력만 해서 행동능력이 없음 > 컴퓨터로 구현 시 고려할 점 있음
   > 첫째, 나한테 물어보지말고 혼자 알아서 해! 명령
      둘째, chatgpt에게 받은 Output format이 json 형식이 되도록 처리기(프롬프트)를 만들기
      셋째, 너는 단기기억력이 짧으니 필요하면 파일로 저장해놔! 명령
      넷째, 다음 명령어로 뭘 쓸건지 자동으로 질문해라! 명령 

 

2. AutoGPT 유용하게 만들기

(a). 기존 문제점
 - Name/Role/Goals를 입력하고나면, 응답주기 전까지 \Thinking이라고 함 > 
첫번째 생각(Thoughts:검색하겠다 / Reasoning:정보검색의첫단계 / plan:구글들어감>검색>결과가져옴 / Criticism:알맞음)을 내고, 두번째 생각으로는 뉴스들 요약하고 > 그러고나면 AutoGPTSummury메모리가 다 찰 때가 있음.
 - 두번째 기사 요약하려고 url 들어가려고 하는데 url검색결과가 사라져서, 첫번쨰요약에 사용한 url을 변형하다보니 없는 url을 들어가서 오류 발생
 - GPT가 텍스트 생성하는데 시간/자원많이 들어
 - 많은 기사를 찾아본 것에 비해 결과가 부실해보임 + 

(b). 문제점 개선을 통해 유용하게 만들기
 - 메모리 관리자에 의한 정보 소실 > 해결법 > Command return 길이 줄이기 위해 file에 담아서 수행하게끔 함
 - 느린속도/비용상승 > 해결법 > qurty 구글검색 활용 / 상위 10개 검색 결과 중 goal과 관련있는 n개 웹페이지 선택 / n개 웹페이지 내용 중 goal과 관련된 부분 요약 > 요약 정보를 filename파일로 저장 후 저장했다는 메시지 출력 
 - 낮은 퀄리티 결과 > Context를 Null로 초기화하고, file로 읽을 수 있도록하고, context에는 Knowledge 텍스트 추가함 + 네이버 위치기반 장소검색 추가 등
 > 이런 것들보다 더 좋은 방법이 있을거임  > 이런 것들을 적용하니 더 싼 비용으로 더 좋은 결과가 나오더라

(c). 더 유용하게 만들기
- Slack과 연동하니까 > 질문하면 답을 주더라 > 카톡아숙업같은 느낌
- webUI(gradio와 연동)로 만들어서 해봤는데..
- https://github.com/mckaywrigley/chatbot-ui 쓰면 chatgpt web 만들 수 있음

728x90
반응형