개요재미 삼아 만든 오늘의 운세.OpenAI를 활용해서 만들었는데, 생각보다 금액이 많이 나감. 그래서 오픈소스 LLM인 LLaMA를 활용해서 오늘의 운세를 만듦 OpenAI통해서 오늘 날짜 기준으로 띠별, 별자리별 운세데이터 생성.JSON 형식으로 변환.DB 저장. 세팅선택 버전 : LLaMA 3 8B (GGUF) 해당 버전을 선택한 이유는, 성능이 안좋은 서버컴으로 돌리기 위해서 8B(파라미터)로 타협을 본 것이고, LLM을 돌릴만한 GPU가 아니어서 CPU만 활용하기 위해 CPU-only 포맷인 GGUF 포맷(양자화 포맷)으로 세팅. 1. window python에서 GGUF 모델을 실행하기 위해 컴파일이 필요하므로, Visual Studio C++ Build Tools가 선행되어야 함.Visual..