향상된 AI가 차세대 Tensor 칩에 미치는 영향

AI는 이제 대세입니다. 그러나 이는 Google의 AI 중심 Tensor 칩셋에 어떤 영향을 미칠 수 있습니까?

최근 AI는 사용자 경험에 필수적인 많은 기능의 핵심이었으며, 많은 기업이 개발 중인 새로운 기능에서 AI의 강력한 기능을 활용하려고 합니다. 향상된 음성 인식부터 흐린 사진 수정 그 사이에 오늘날 우리가 당연하게 여기는 많은 기능은 AI를 기반으로 구축되었습니다. 그러나 이들 회사 중 어느 회사도 Google보다 AI의 능력에 더 의존하는 경향이 없습니다. 많은 사람들이 Google의 AI에 대한 의존도가 증가하고 있음을 보여주는 첫 번째 지표로 Google의 사내 Tensor SoC를 지적할 것입니다. 실제로 이는 Tensor SoC가 시작되기 훨씬 이전으로 거슬러 올라갑니다. 그리고 Google이 AI에 크게 의존하겠다는 의도를 발표하면서 ~에 올해 구글 I/O, 그 통합은 더욱 중요해질 것입니다.

앰비언트 컴퓨팅: Google의 궁극적인 목표

2019년 Google의 장치 및 서비스 담당 SVP인 Rick Osterloh는 처음으로 "앰비언트 컴퓨팅"이라는 용어를 대중에게 공개했습니다. Made by Google '19 이벤트. 청중을 당황하게 만드는 Osterloh는 앰비언트 컴퓨팅을 전화기나 소유한 다른 장치가 아닌 최종 사용자를 시스템의 중심에 두는 개념으로 정의했습니다. “도움은 원하는 곳 어디에서나 가능하며 유동적입니다.”라고 그는 말했습니다. "기술은 필요하지 않을 때 배경으로 사라집니다."

기본적으로 Google의 목표는 침입을 최소화하면서 사용자 쿼리를 최대한 효과적으로 쉽고 원활하게 처리하는 시스템을 개발하는 것입니다. 억만장자 슈퍼히어로가 아닌 일반 사용자를 대상으로 한다는 점을 제외하면 Iron Man의 Jarvis라고 생각하세요. 마찬가지로 음성 어시스턴트(우리의 경우 Google 어시스턴트)가 이 야심찬 비전의 중심에 있을 것입니다. 이 시점에서 많은 사람들은 구글의 소위 앰비언트 컴퓨팅을 모든 기기에 구글 어시스턴트를 탑재하고 이를 하루라고 부르는 것으로 해석하는 것을 용서받을 것입니다.

Tensor SoC를 출시하기 전부터 Google은 사용자 경험을 향상시키기 위해 AI에 막대한 투자를 했습니다.

다음으로 빨리감기 구글 I/O 2022, 앰비언트 컴퓨팅이 다시 한 번 등장했습니다. Osterloh는 "다중 장치 세상에서 사람들은 소란을 피우며 인생을 보내고 싶지 않습니다. 기술로.” 기조연설이 진행되면서 그는 Pixel 기기에 대한 Google의 노력이 어떻게 앰비언트 컴퓨팅을 염두에 두고 구축되었는지 강조했습니다. 앰비언트 컴퓨팅에 대한 Google 비전의 초석은 물론 Tensor SoC입니다. 최고의 마력을 자랑하지는 않지만 가장 큰 장점은 Google의 TPU입니다. AI 관련 Google의 전문성을 활용하는 통합 머신러닝 엔진 개선.

기본적으로 TPU는 대규모 매트릭스 작업을 처리하도록 특별히 설계된 하드웨어로, 일반적으로 신경망 워크로드를 훨씬 더 빠른 속도로 수행하는 데 사용됩니다. 이러한 신경망 워크로드는 기본적으로 AI 기반 애플리케이션의 핵심을 나타냅니다. 일반적으로 다른 칩셋의 CPU 또는 GPU에 의해 처리됩니다. 이러한 프로세스는 둘 중 하나에서 큰 문제 없이 처리되지만 둘 다 TPU만큼 빠르게 이러한 작업을 처리할 수는 없습니다.

Pixel 7a 음성 입력 실제 동작

주로 TPU가 더 빠른 이유는 CPU와 GPU 모두 이러한 작업을 처리하는 동안 다양한 범위에서 메모리 액세스에 의존하기 때문입니다. 계산 속도에 비해 메모리 접근 속도가 상당히 느립니다(이를 von이라고 합니다). 노이만 병목 현상), 이는 이러한 매트릭스를 수행할 때 CPU 및 GPU의 처리량을 방해할 수 있습니다. 운영. 그러나 이와 관련하여 GPU가 CPU보다 상당히 빠르다는 점에 유의해야 합니다. TPU 설계 방식으로 인해 이러한 매트릭스 작업을 처리하는 동안 메모리 액세스가 필요하지 않으므로 둘 중 하나보다 처리량이 훨씬 높습니다. 유일한 단점은 TPU가 이 목적에만 적합하다는 것입니다. 즉, 해당 작업과 관련하여 CPU나 GPU를 대체할 수 없습니다.

Tensor SoC의 중요성을 고려하면, 그해 Google의 중급 휴대폰인 Google의 Pixel 6a를 보는 것은 그다지 놀라운 일이 아니었습니다. – 더 높은 새로 고침 빈도만큼 중요한 것을 희생하더라도 주력 형제와 동일한 Tensor SoC를 유지합니다. 화면. 이는 Tensor SoC가 Google의 궁극적인 목표에 얼마나 중요한지 보여줍니다. 이전에는 단순한 사후 고려나 지나치게 야심찬 프로젝트처럼 들렸을 수도 있지만 이제는 더 많이 들립니다. 특히 생성 AI와 자연어 처리(NLP) 엔진을 통해 그 어느 때보다 신뢰성이 높습니다. 폭풍.

Google Bard: AI가 주도

출처: 구글

최첨단 AI 연구로 유명하다는 사실은 자명하지만, 가장 최근의 AI 기반 애플리케이션 물결을 시작한 것은 Google이 아니었습니다. ChatGPT와 같은 AI 기반 챗봇의 인기가 치솟으면서 Google은 자체 버전을 출시할 수밖에 없었습니다. 에서 가장 눈에 띄지 않는 패션, Google은 마침내 생성 AI에 대한 자체 해석인 Bard를 공개했습니다.

ChatGPT와 마찬가지로 Bard는 언어 모델을 활용하여 자연스럽고 대화적인 방식으로 최종 사용자의 쿼리에 응답하는 또 다른 AI 기반 챗봇입니다. 경쟁자와 다른 점은 훈련된 모델입니다. 이는 대부분의 사람들이 생각하는 것보다 더 과감한 것입니다..

OpenAI의 GPT 대신 Bard는 비공개로 개발된 Google의 자체 개발 언어 모델, 즉 LaMDA를 활용합니다. Bard 이전에는 우리는 단지 엿볼 뿐이었습니다. Google I/O 2021로 돌아왔습니다. 물론 그 발표로 인해 큰 일이 예상되었지만 Google이 약속한 것을 이행하지 못했다고 주장하기는 어렵습니다. 문제는 구글이 이 공간엔 혼자가 아니야. 수년 만에 처음으로 Google이 특정 혁신의 최초 설계자가 아닙니다.

실제로 OpenAI는 ChatGPT를 통해 공을 굴렸습니다. 대중에게 먼저 출시된 것 외에도 ChatGPT는 이미 비교적 짧은 시간에 다음과 같은 몇 가지 중요한 업그레이드를 거쳤습니다. OpenAI의 최신 GPT-4 언어 모델. 더욱 걱정스러운 점은 Microsoft가 어떻게 이 기술을 통합하여 Bing에 새로운 생명을 불어넣었는지였습니다. AI 기술의 각광을 받는 것이 Google을 충분히 걱정하지 않았다면 검색 엔진 시장 점유율에서 지배적인 위치를 위협하는 것은 분명히 Google을 발끝으로 만들 것입니다. 이는 Google이 Bard의 정보를 급히 공개한 순간부터 분명해졌습니다. 때로는 몇 가지 기본적인 질문에 대답하는 데 어려움을 겪었습니다. 한 해의 달 이름을 지정하거나 서비스가 이미 종료되었다고 농담으로 제안하는 것과 같습니다.

그러나 Bard는 아직 초기 단계에 있으며 특히 그러한 기술의 큰 가능성을 고려할 때 성장통이 발생할 수밖에 없다는 점에 유의해야 합니다. 또한 주목할 점은 먼저 선을 넘는 것이 반드시 성공을 보장하는 것은 아니라는 점입니다. ChatGPT가 때때로 궤도를 벗어나는 등 OpenAI의 항해도 순조롭지 않았습니다. 실제로 구글은 아직 OpenAI의 챗봇을 따라잡을 뿐만 아니라, 강자로서 굳건히 복귀할 수 있는 절호의 기회를 갖고 있습니다. 올해 Google I/O에서 회사는 수많은 새로운 기능과 개선 사항을 발표했습니다. ~하는 동안 그것이 어떻게 "책임감"이 있는지 선전합니다.

Bard는 어떻게 Google 기기에 통합할 수 있나요?

Bard는 Pixel의 다양한 측면과 더 넓은 Google Android 환경을 활용할 수 있습니다. 우선 Bard는 Pixel 장치 내부의 Tensor SoC의 고유한 기능을 활용하여 성공할 것입니다.

Google이 AI 기반 기능에 전념하는 것을 본 것은 이번이 처음이 아닙니다. Tensor SoC를 출시하기 전부터 Google은 사용자 경험을 향상시키기 위해 AI에 막대한 투자를 했습니다. Pixel 기기의 하이라이트 중 하나인 Now Playing이 2018년에 데뷔해. Pixel 경험의 또 다른 초석인 Google의 뛰어난 HDR+ 처리는 Google이 자체 SoC 개발 아이디어를 고려하기 훨씬 전에 현장에 등장했습니다. 물론, Google은 나중에 자체 Pixel Visual Core 칩을 통합했습니다. 정교한 HDR+ 후처리를 지원합니다. 그러나 많은 기술 애호가들의 관심을 사로잡은 것은 Google의 후처리 알고리즘이었습니다. 일부 Android 개발자 커뮤니티는 Google의 Gcam 앱을 다른 기기로 포팅하는 데에만 관심을 갖고 있습니다. 사진 품질을 대폭 향상. 훨씬 나중에 출시된 기능인 Magic Eraser도 곧 출시되었습니다. 모든 Pixel 기기 및 Google One 회원에게 제공.

Tensor는 이러한 기능의 기반이 아니었지만 이러한 기능이 Tensor 전용 TPU 장치의 고유한 기능으로부터 이점을 얻지 못한다고 주장하기는 어렵습니다. 이는 기존 기능의 성능을 향상시키는 것 외에도 Google에 기회를 열어줄 수 있습니다. 훨씬 더 많은 AI 집약적 기능을 추가하려면 이러한 기능 중 하나가 바로 Bard일 것입니다. 일체 포함. 실제로 보도된 바에 따르면 Bard AI가 Pixel 기기에 독점 기능으로 제공될 수 있음 잠재적으로 모든 Android 휴대전화에 출시되기 전에 말이죠.

아마도 Google은 궁극적으로 Google Assistant와 같은 것에 통합하기 전에 Android에서 Bard의 독립형 구현을 통해 여전히 테스트 중일 것입니다. 이러한 방식으로 Google은 Google Assistant의 세련된 경험과 Bard의 생성 AI 엔진 기능이라는 두 가지 장점을 모두 활용할 수 있습니다.

일반적으로 Google Assistant는 Bard를 통합하기에 탁월한 영역입니다. 우선, 대부분의 Android 휴대폰에는 이미 Google Assistant가 사전 설치되어 있으므로 이러한 움직임으로 인해 Bard의 채택이 빠르게 늘어날 것입니다. Bard의 더욱 정교한 응답 능력 덕분에 Google Assistant도 훨씬 더 똑똑해지고 유용해질 것입니다. Bard가 Google 어시스턴트에 연결되어 있으면 Google 어시스턴트를 지원하는 다른 스마트 장치와도 쉽게 통합할 수 있습니다. 이렇게 하면 휴대폰뿐만 아니라 모든 스마트 장치가 더 똑똑해집니다. 하지만 흥미롭게도 Google은 I/O에서 Assistant에 대해 한 번도 언급하지 않았습니다.

그러나 Google이 Bard와 Google Assistant를 결합한다면 Tensor의 잠재력을 활용하여 Bard의 성능을 향상시킬 수 있을 뿐입니다. Google이 LaMDA(또는 팜 2), 이는 장치에서 큰 판도를 바꿀 수 있습니다. 이는 Pixel 장치에 유리하게 작용할 뿐만 아니라 다가오는 장치를 설계할 때 초점에 큰 변화를 가져올 수도 있습니다. SoC는 원시 CPU 및 GPU 성능에 대한 점점 더 강조되는 점을 더욱 희석시키면서 유능함의 중요성을 강조합니다. 전용 TPU.

경쟁이 얼마나 치열한지 생각해보면 구글이 너무 조심해서 시도해 볼 여유는 사실상 없습니다.

물론 Bard를 Google Assistant와 연결하는 것은 Google이 해결해야 할 자체적인 과제를 제시합니다. 예를 들어, 구글은 잘못된 정보의 가능성을 실질적으로 0으로 줄이기 위해 노력해야 할 것입니다. 그렇게 하지 않으면 Google은 가상 비서 분야에서 Google의 가장 큰 장점인 Google Assistant의 신뢰성을 약화시킬 위험이 있습니다. 위험이 엄청나게 높다고 말하는 것이 공평합니다. 하지만 이 점에서 Google이 모든 사람보다 앞서 있다는 점을 고려하면 해당 계획을 이행하지 않는 것은 낭비하기에는 너무 좋은 기회가 될 것입니다.

Google은 이미 작업할 수 있는 대규모 기반을 갖추고 있음을 알 수 있습니다. Google 어시스턴트는 거의 모든 Android 휴대전화와 함께 제공되며 시중에 나와 있는 다양한 스마트 기기에서 지원됩니다. Google은 이제 AI 기반 애플리케이션에 중점을 두고 설계한 자체 Tensor 칩셋을 보유하고 있습니다. 이는 Google이 이미 Microsoft를 앞지른 두 가지 주요 영역입니다. 경쟁이 얼마나 치열한지 생각해보면 구글이 너무 조심해서 시도해 볼 여유는 사실상 없습니다.

현재로서는 Microsoft가 유리합니다.

Google이 뒤쳐지는 것처럼 보이는 것은 이번이 처음입니다. 항상 최첨단 AI 연구에 자부심을 가져왔던 기업으로서, 이 특정 측면에서 Google이 따라잡는 모습을 보는 것은 이상하게 느껴집니다. 그리고 그 모든 경쟁자 중에서 Bing을 부활시킨 OpenAI의 최신 GPT-4 언어 모델을 통합한 덕분에 선두를 달리고 있는 것은 Microsoft입니다. 그러나 현재 두 회사 사이에 상당한 격차가 있음에도 불구하고 Google이 곧 선두를 되찾을 것이라는 불가피성은 여전히 ​​남아 있습니다. 어쨌든 구글은 아직 에이스를 꺼내지 못한 반면, 마이크로소프트는 이미 총을 쐈다.

하지만 끝까지 직선은 아닐 것이다. Google이 Bard를 Pixel 기기에 통합하기로 결정하려면 먼저 몇 가지 문제를 해결해야 합니다. Google 어시스턴트 경로는 쉬운 승리처럼 들릴 수 있지만 여전히 Google이 헤쳐나가야 할 자체적인 과제를 제시합니다. 하지만 Google이 아직 출발선을 떠나지 않은 상황에서 Microsoft는 패할 경쟁을 벌이고 있습니다. 지금은 그럴 것 같지만 아마 오래 가지 않을 것입니다.

Google I/O를 보면 Google은 패닉 상태에 있지만 아직 포기할 준비가 되어 있지 않은 것 같습니다.