AI 서비스를 개발하면서 보이는 현 시점의 한계들(무료 챗GPT 얻기)
AI가 정말 급속도로 치고 올라온다. 매년 새롭게가 아닌 매월 새롭게 나오고 이제는 매주 새롭게 나오는 것 같다. 내가 개발을 해보면서, 수많은 IT 박람회를 가보면서 AI 서비스들을 보면 모두 chatGPT API라는 게 보인다. 사실 컴퓨팅 파워, 자원 문제가 있기 때문에 현 시점은 API를 쓸 수 밖에 없다. LLM 자체 개발은 웬만한 규모로는 할 수가 없고 오픈소스LLM은 성능이 아쉽거나, 파인튜닝을 한다고해도 비용이 많이 들고 그대로 쓰려니 중국어 영어 기반이 많아 한국어 성능이 아쉽기 때문이다. 이미 한국어 파인튜닝이 되어있는 모델조차 검열이 너무 심해 못쓸 수준이거나 성능이 별로이거나.. 다만 API를 가져다가 쓰더라도 기업마다 특성에 맞게 세팅을 해놔야하는데 내가 본 바 각 기업에서 서비..
Comment