우리나라 웬만한 회사에서 프로젝트 하나에 사용 가능한 GPU가 10개도 안 돼
SK하이닉스 이런 곳은 모르겠지만 우리나라에서 인공지능 하는 기업이 몇 개인데 거기를 대푯값으로 보면 안 되고
난 국립 기관 연구원인데 내 앞으로 배정된 GPU가 몇개인 줄 알아?
겨우 하나야ㅎ
내가 맡은 프로젝트가 3개인데 가용 가능한 GPU는 하나임. 다른 사람들 GPU 빌려 쓸 수는 있지만 어쨌든 1인 1GPU로 일을 하고 있다는거임
심지어 연구원이 막 100명씩 있어서 GPU 100개씩 빌릴 수 있는 것도 아님
당연히 우리도 Nature급 논문을 목표로 연구를 하고 있지. 근데 해외는 고사양 GPU 100개씩도 돌려ㅋ
예를 들어서 하나의 계산을 하는데 5분이 걸린다고 치자
그럼 GPU 개수별로 걸리는 시간이 이렇게 차이가 많이 남
(82에는 표를 못붙이겠네요)
"일단 계산해서 결과 뽑아봅시다"
이 단계에서 우리는 한달씩 걸리는데 해외 연구팀은 하루이틀이면 결과가 나와ㅎ
이게 한번 돌린다고 끝인게 아니라 모델 성능이나 추가적인 데이터 또는 이런 저런 변수들 영향 때문에 여러번 시행착오를 거쳐야됨
격차가 갈수록 벌어지는게 당연한 상황인거지
어떤 논문이 나왔다고치자
우리가 이런 점을 개선해서 더 개쩌는 연구를 해봅시다 이런 목표를 잡고 연구를 해
이때 우리는 GPU가 부족해서 시간상 포기해야 되는 부분도 있고, GPU가 훨씬 많은 해외 연구팀에서 먼저 논문을 발표해 버리는 경우도 있어
우리는 열정도 있고, 노력도 하고, 그리고 그걸 구현 가능한 능력도 있는데 오로지 GPU가 부족해서 그걸 못한거야
이게 우리나라에서 AI 연구하는 사람들의 현주소야
가뜩이나 연구 인력도 적은데
인력을 갈아 넣어도 안 되는 분야에서도 너무 뒤쳐지고 있음
오늘도 우리 연구실 GPU 부족해서 수급하느라 여기저기 연락 돌리면서 이래서 외국으로 다들 나가는구나 현타 오지는 상황에서
정부가 한국에 GPU 26만장을 가져와버림ㅜㅜ
일단 기관 내에 있기만 하면 대여가 가능하기 때문에 와주기만 하면 돼
국가기관에도 꽤 많이 배당 됐던데 다음 프로젝트부터는 쓸 수 있을 것 같아서 연구원들도 기대하고 있음
이건 단순히 GPU만 가져오는게 아니라 우리나라 AI 격차를 줄이는데 엄청난 기여야. 아직도 믿기지 않아ㅠㅠㅠ