Brad Gerstner - 딥시크 시장 영향 분석/스타게이트 영향/딥시크 비용 분석

https://www.youtube.com/watch?v=vP8rm5Q_T3c

 

 

Well, Silicon Valley investor Brad Gerstner, known for early investments in Metta and Uber, owns NVIDIA, 
실리콘밸리 투자자 브래드 거스너는 메타와 우버에 대한 초기 투자로 유명하며, 엔비디아 주식을 보유하고 있습니다. 

the founder and CEO of Altimeter Capital, stocked up on shares late last year.
알티미터 캐피털의 창립자이자 CEO인 그는 작년 말 주식을 추가로 매입했습니다.

Brad joins us now here in Miami. 
브래드가 지금 마이애미에서 우리와 함께합니다.

Brad, always great to get your take, especially after yesterday's sell-off. 
브래드, 항상 당신의 의견을 듣게 되어 기쁩니다. 특히 어제의 주가 하락 이후에 말이죠.

Where do you stand on that? 
이에 대해 어떻게 생각하십니까?

Exciting times. 
흥미진진한 시기입니다.

Exciting times. 
흥미진진한 시기입니다.

Great to be here. 
여기 오게 되어 기쁩니다.

Great event.
훌륭한 행사입니다.

This is my annual pilgrimage onto this set, and I love it. 
이것은 제가 매년 이 세트를 방문하는 순례와 같은 것이며, 저는 이것을 사랑합니다.

And it couldn't come at a better time.
그리고 이보다 더 좋은 시기에 올 수 없었습니다.

I mean, you know, NVIDIA today, I think you just said traded 20 times revenue. 
제 말은, 아시다시피, 오늘 엔비디아는 매출의 20배에 거래되고 있다고 생각합니다.

It's traded 24 times earnings. 
이는 수익의 24배에 거래되고 있습니다.

Right? People talk about the bubble. 
맞죠? 사람들은 거품에 대해 이야기합니다.

This isn't what bubbles are made of. 
이것은 거품이 만들어지는 것이 아닙니다.

And as far as I can tell, the world's going to be, you know, have a compute shortage for the next three or four years.
제가 알기로는, 앞으로 3-4년 동안 세계는 컴퓨팅 부족 현상을 겪게 될 것입니다.

I don't think anything yesterday changed that. 
어제 일어난 일로 인해 그 상황이 바뀌었다고 생각하지 않습니다.

In fact, what happened is when you give models like Lama very inexpensive, open source for free, or a deep-seek, I don't think there'll be 400 U.S. companies using an open-source Chinese model that you have to send your corporate data to.
사실, 일어난 일은 Lama와 같은 모델을 매우 저렴하게, 오픈 소스로 무료로, 또는 딥시크를 제공할 때, 미국 기업 400개가 기업 데이터를 보내야 하는 오픈 소스 중국 모델을 사용하지는 않을 것이라고 생각합니다.

But let's stipulate that the cost of intelligence is going to come down. 
하지만 인공지능의 비용이 낮아질 것이라고 가정해 봅시다.

That's a good thing.
그것은 좋은 일입니다.

The amount consumed is going to go up. 
소비되는 양은 증가할 것입니다.

I heard yesterday deep-seeks out scrambling to get more GPUs to support the inference because they went to number one on the app store. 
어제 들은 바로는, 딥시크가 앱스토어에서 1위를 차지하면서  추론을 지원하기 위해 더 많은 GPU를 확보하려고 분주히 움직이고 있다고 합니다.

Here in NVIDIA is down 17 percent, and the company that's causing it to be down is out there trying to get their hands on more GPUs to support the inference. 
여기 엔비디아는 17퍼센트 하락했고, 
그 하락을 야기한 회사는 추론을 지원하기 위해 더 많은 GPU를 확보하려고 노력하고 있습니다.

So I think there was a lot of hyperventilation yesterday in very few facts. 
그래서 저는 어제 많은 사실 없이 과도한 흥분이 있었다고 생각합니다.

Yeah, Brad, two months ago, or about a month ago on your podcast, the BTG podcast, you guys had Satya Nadella on the CEO. 
네, 브래드, 두 달 전, 또는 약 한 달 전에 당신의 팟캐스트, BTG 팟캐스트에서 사티아 나델라 CEO를 모셨죠. 

The BTG squared podcast. 
BTG 스퀘어드 팟캐스트였습니다.

Oh, sorry about that.
오, 그것에 대해 죄송합니다.

It's a great podcast, by the way. 
그건 정말 훌륭한 팟캐스트입니다.

You and Bill Gurley, two fascinating investors. 
당신과 빌 걸리, 두 명의 매력적인 투자자들이죠.

You got Satya Nadella, the CEO of Microsoft on the pod. 
마이크로소프트의 CEO인 사티아 나델라를 팟캐스트에 모셨군요.

You asked him directly, are you still chip constrained?
당신이 그에게 직접 물었죠, 여전히 칩 공급에 제약이 있느냐고요.

Yes. 
네. 

He said, no, I am power constrained. 
그는 "아니오, 저는 전력에 제약이 있습니다"라고 대답했습니다.

That to me, Guy and I were talking about it on our podcast.
제가 보기에, 가이와 저는 우리 팟캐스트에서 이에 대해 이야기했습니다.

Go follow it on the podcast door, there are people. 
팟캐스트 문을 통해 팔로우해 주세요, 사람들이 있습니다.

No, but we were talking about it at the time, and this is one of the largest companies, early beneficiary. 
아니, 하지만 우리는 당시에 이것에 대해 이야기하고 있었고, 이는 가장 큰 회사들 중 하나이며, 초기 수혜자입니다.

That's when an open AI, two years ago, that sort of thing, and they're not chip constrained anymore.
그것은 오픈AI가 2년 전에 그런 식이었을 때이고, 그들은 더 이상 칩 공급에 제약을 받지 않습니다.

Well, I think, parse the words. 
음, 제 생각에는, 그의 말을 자세히 살펴봐야 합니다.

He said, I'm power constrained. 
그는 "나는 전력에 제약을 받고 있다"고 말했습니다.

And what that meant is that he's more power constrained than he is chip constrained. 
그 말의 의미는, 그가 칩 공급 제약보다 전력 제약을 더 많이 받고 있다는 것입니다.

Trust me, all of these major companies are still chip constrained. 
믿어주세요, 이 모든 주요 회사들은 여전히 칩 공급에 제약을 받고 있습니다.

There is a fight. 
싸움이 있습니다.

The biggest challenge Jensen has, and he said it on our podcast, is he, all these guys get angry with him, 
젠슨이 직면한 가장 큰 도전은, 그리고 그가 우리 팟캐스트에서 말했듯이, 모든 사람들이 그에게 화를 낸다는 것입니다.

and now Stargate comes along. 
그리고 이제 스타게이트가 등장합니다.

We forecasted on our pod that if they build $100 billion next year in Abilene, which is the objective, and I think, you know, some differing opinions on that, we think it will happen. 
우리는 팟캐스트에서 만약 그들이 내년에 애빌린에서 1,000억 달러를 만들면, 이는 목표이고 저는 그것에 대해 다양한 의견이 있다고 생각하지만, 우리는 그것이 일어날 것이라고 생각합니다.

We estimated that's 2 million incremental GPUs. 
우리는 그것이 200만 개의 추가 GPU라고 추정했습니다.

The total number of GPUs produced this year, our forecast is 6 million.
올해 생산된 GPU의 총 수량에 대한 우리의 예측은 600만 개입니다.

So you have a new player on the scene who wants to buy 30% of the total supply of GPUs when everybody else in the world also wants more GPUs. 
따라서 전 세계의 다른 모든 사람들도 더 많은 GPU를 원하는 상황에서, 총 GPU 공급량의 30%를 구매하고자 하는 새로운 플레이어가 등장한 것입니다. 

So again, what happened yesterday? 
그래서 다시 말하지만, 어제 무슨 일이 있었습니까?

It wasn't a breakthrough on the model. 
그것은 모델의 획기적인 발전이 아니었습니다.

They actually built a model that's kind of where open AI was 10 to 12 months ago, the 01 or the 01 preview model. 
그들은 실제로 오픈AI가 10~12개월 전에 있었던 수준의 모델을 만들었습니다. 
01 또는 01 프리뷰 모델이죠.

But there was this idea that they did it for a fraction of the cost.
하지만 그들이 이를 훨씬 적은 비용으로 했다는 아이디어가 있었습니다.

And I heard reported all over CNBC yesterday that it was 6 million versus billions of dollars to train 01 or 01 preview. 
어제 CNBC에서 01 또는 01 프리뷰를 훈련시키는 데 수십억 달러가 아닌 600만 달러가 들었다고 보도되는 것을 들었습니다.

I would say my informed speculation is that the cost of training 01 or 01 preview was less than 20 million. 
제 정보에 근거한 추측으로는 01 또는 01 프리뷰를 훈련시키는 비용이 2000만 달러 미만이었을 것입니다.

This was not a big price breakthrough.
이는 큰 가격 혁신이 아니었습니다.

It's actually what you would expect. 
사실 예상했던 바로 그대로입니다.

The cost of compute comes down by about 50% a year. 
컴퓨팅 비용은 매년 약 50% 정도 감소합니다.

So if it cost open AI a year ago to build this model, $15 million, you would expect it to cost 7 and a half.
따라서 1년 전 오픈AI가 이 모델을 만드는 데 1500만 달러가 들었다면, 지금은 750만 달러가 들 것으로 예상할 수 있습니다.

And we know they also use distillation techniques. 
그리고 우리는 그들이 증류 기술도 사용한다는 것을 알고 있습니다.

It's not to take anything away from deep seek.
이는 딥시크의 업적을 폄하하려는 것이 아닙니다.

I think it's a great thing for the world that we're going to make this cheaper for everybody.
우리가 이것을 모든 사람에게 더 저렴하게 만들 수 있다는 것은 세상에 아주 좋은 일이라고 생각합니다.

Everybody's going to have access as a consumer. 
모든 소비자들이 접근할 수 있게 될 것입니다.

All these enterprises are going to have access.
이 모든 기업들도 접근할 수 있게 될 것입니다.

It's not just going to come out of places like deep seek. 
이는 딥시크와 같은 곳에서만 나오는 것이 아닐 것입니다.

Lama is going to one of them. 
라마(Lama)도 그 중 하나가 될 것입니다.

I imagine there are going to be other companies like open AI and Google and others who are going to be open sourcing their lower tier models while they still charge a premium for the frontier model.
오픈AI와 구글, 그리고 다른 회사들도 최첨단 모델에 대해서는 여전히 프리미엄을 부과하면서 낮은 수준의 모델은 오픈소스로 제공할 것이라고 생각합니다.

So I think it's going to be a great thing for the world that we're going to be able to do.
그래서 우리가 할 수 있게 될 이 일은 세상에 아주 좋은 일이 될 것이라고 생각합니다.