Potpourri of data

무슨 일이 있었나?지난 4월 6일, AI 반도체 업계에서 조용하지만 중요한 뉴스가 나왔습니다.반도체 기업 브로드컴이 구글, 그리고 클로드를 만드는 앤트로픽과 동시에 대형 계약을 체결했습니다. 구체적으로는 두 가지입니다.하나, 브로드컴이 구글의 차세대 AI 전용 칩(TPU)을 2031년까지 장기 개발·공급하기로 했습니다.둘, 앤트로픽이 이 구글 TPU를 3.5기가와트 규모로 사용할 수 있도록 브로드컴이 중간에서 공급 역할을 맡기로 했습니다.3.5기가와트는 중소도시 하나에 전기를 공급할 수 있는 어마어마한 규모입니다.이 계약의 의미를 이해하려면 먼저 AI 칩 시장이 어떻게 돌아가고 있었는지를 알아야 합니다.엔비디아가 독식하던 세상지금까지 AI 개발에 필요한 칩은 사실상 엔비디아의 GPU가 거의 전부였습니다...

AI는 사실 '엄청난 공부벌레'였습니다우리는 최근 몇 년간 AI가 세상을 뒤흔드는 것을 목격했습니다.챗GPT가 시를 쓰고, 그림을 그리는 화려한 모습 뒤에는 '학습(Training)'이라는 처절한 인고의 시간이 있었죠.하지만 이제 시대가 변하고 있습니다. AI가 공부를 마치고 실전 시험인 '추론(Inference)'의 무대로 쏟아져 나오고 있기 때문입니다.오늘 이 두 과정의 차이를 알면, 왜 지금 반도체 시장이 요동치는지 그 답을 찾을 수 있습니다. 학습(Training): 지식을 깨우치는 게 아니라 '확률 지도'를 그리는 과정흔히 AI가 학습한다고 하면 사람처럼 원리를 이해한다고 생각합니다.하지만 AI의 학습은 조금 더 드라이합니다. 바로 '거대한 확률 게임'을 준비하는 과정이죠.수조 개의 이어말하기:..