deep

인공지능 회사 DeepSeek가 화웨이의 승천 계산 플랫폼을 위한 인프라 구성 요소를 공식 오픈소스화했습니다. 여기에는 TileLang 고급 언어 컴파일 도구, 계산 라이브러리 및 분산 통신 라이브러리가 포함되며, 이전에 엔비디아 플랫폼을 위한 오픈소스 구성 요소와 일대일로 대응합니다. TileLang은 범용적이고 프로그래밍이 더 간단하며 하드웨어 성능 한계에 도달할 수 있는 고급 언어를 제공하는 것을 목표로 하며, CUDA에 비해 개발 효율성을 높이고 논리를 단순화할 수 있습니다. 또한, 그 프로그래밍 모델은 칩 특성을 활용할 수 있습니다.TileLang 경로는 먼저 엔비디아 플랫폼에서 검증되었으며, 이미 DeepSeek V4 시리즈 모델 훈련에서 대부분의 연산자의 구현을 지원하고 있습니다. 이번에 오픈소스화된 승천 버전은 승천 Ascend C 저수준 명령어를 캡슐화하여 하드웨어 성능을 손상시키지 않으면서 고급 언어 프로그래밍 방식을 제공합니다. 현재 DeepSeek 훈련에서 사용되는 모든 TileLang 연산자는 승천에서 고성능 구현이 존재합니다.동시에 오픈소스화된 구성 요소에는 DeepGEMM, DeepEP, TileKernels, FlashMLA 및 DeepSelect가 포함되어 있으며, 각각 범용 행렬 연산, 대규모 장치 간 통신, 일반 벡터 계산 및 메모리 접근, 긴 컨텍스트 희소 주의 및 데이터 필터링에 사용됩니다. DeepSeek는 여러 주요 테스트에서 관련 계산 및 통신 성능이 하드웨어 한계에 근접했다고 주장하며, 연구 개발 과정에서 화웨이 팀의 지원을 받았고, 양측은 승천 950 기반의 128 카드 초 노드 솔루션을 추진하며 계산 및 통신을 깊이 최적화했습니다.

펑황왕 과학 보도，9 월 29 일，DeepSeek Harness v0.2 미리보기 버전이 공식 출시되었습니다. macOS 및 Windows 데스크톱 설치 패키지를 제공하며, DeepSeek 공식 웹사이트에 온라인 되었습니다. 새 버전은 일상 사무 및 개발을 위한 일반적인 기능을 사전 설정하였으며, 플러그인 설치 및 관리 페이지가 추가되었습니다.이번 업데이트는 파일 표시, 콘텐츠 미리보기 및 코드 변경 표시를 최적화하였고, 자동화 작업의 설정 및 관리를 개선하였으며, 다양한 작업 과정 표시 방식을 제공합니다. 사용자는 문서, 표 또는 PDF를 제공하여 자료를 정리하고, 데이터를 분석하며, 차트를 생성하거나 프레젠테이션을 만들 수 있으며, 프로젝트를 수정하고 코드를 실행할 수도 있습니다.필요에 따라 활성화할 수 있는 자동화 작업 플러그인이 내장되어 있으며, 반복 작업을 정기 작업으로 설정하고 실행 기록을 확인하며 실행 빈도 및 작업 지시를 조정할 수 있습니다. 플러그인 관리 페이지에서는 플러그인 패키지 이름을 입력하여 설치할 수 있으며, 플러그인을 비활성화하거나 제거하고 소개 및 출처를 확인할 수 있습니다. 실험적인 창작 모드에서는 사용자가 대화로 요구 사항을 설명하여 플러그인을 작성하고 수정할 수 있습니다. 공식적으로 제품은 아직 초기 단계에 있으며, 샌드박스 및 보안성, 인공지능 팀, 장기 기억, 브라우저 및 기타 GUI 소프트웨어 자동화, 원격 및 모바일 사용을 지속적으로 개선하고, 대화 공유 및 다인 협업을 탐색할 것이라고 합니다. 공식 모델 API 사용자 기준 통계에 따르면 약 60%의 사용자가 제3자 플러그인을 사용하였습니다.

동찰에 따르면 《The Information》의 보도를 인용한 두 명의 직접적인 정보 제공자는 인공지능 회사 DeepSeek의 연간 수익이 약 10억 달러에 달하며, 몇 달 전에는 5억 달러도 안 됐다고 전했습니다. 수익의 주요 원천은 모델 API이며, 무료 채팅 애플리케이션은 현재 광고나 구독 수익이 없습니다.보도에 따르면, 수익 증가의 일부는 가격 인상에서 비롯되었으며, 일부 API 가격이 약 2.3배에서 4.5배 인상되었습니다. 양문봉은 최근 투자자들에게 가격 인상 후 고객 수가 감소하지 않았으며, 수요는 여전히 강하다고 밝혔습니다. 이전에 공개된 재무 데이터에 따르면, 올해 전 7개월 동안 API 사업의 총 이익률은 82.9%였습니다.DeepSeek의 두 번째 자금 조달 계획은 약 500억 위안의 자금을 모집할 예정이며, 기업 가치는 약 5000억 위안으로 평가되고 있습니다. 회사는 10월 말까지 자금 조달을 완료하고 상하이 증권거래소의 과학기술 혁신판 IPO도 준비하고 있습니다. 양문봉은 70% 이상의 컴퓨팅 파워가 새로운 모델 훈련에 사용되며, 추론에 할당된 것은 30%도 안 된다고 밝혔습니다. 회사는 더 많은 소형 모델이 게임 그래픽 카드에서 직접 실행될 수 있도록 시도하고 있으며, 고급 칩은 계속해서 훈련에 사용하고 있습니다.

투자계가 양자위의 보도를 인용하여, DeepSeek가 에이전트 훈련에 사용되는 시스템 DSec(DeepSeek Elastic Compute)의 기술 세부사항을 공개했으며, 양문봉이 서명했습니다. 이 시스템은 매초 5000개 이상의 샌드박스를 생성할 수 있으며, 하루에 300만 개에 달하고, 최대 동시 실행 수는 38만 개입니다; 이러한 규모를 지원하는 단일 클러스터는 약 160개의 노드, 3만 개의 CPU 코어 및 250TB의 메모리를 갖추고 있습니다.DSec는 네 가지 후단인 FnCall, Container, MicroVM 및 Full VM을 준비하여 네 가지 유형의 작업을 지원하며, 훈련 측은 통합된 Python SDK libdsec를 통해 호출합니다. 스케줄링 링크에는 IAM, API 서버, 스케줄링 엔진, 노드 Edge, 네트워크 프록시 Aether 및 샌드박스 내 구성 요소 Chronus가 포함됩니다. 환경은 기본 이미지, 작업 공간 및 도구 키트의 세 가지 계층으로 읽기 전용 이미지로 분리되어 시작 시 조합하여 사용됩니다. 논문 실행 시 데이터에 따르면, Python, Java, C++ 컨테이너 이미지가 실제로 읽힌 비율은 각각 약 6.0%, 9.2% 및 8.7%입니다.DeepSeek-V4.1부터, 에이전트 루프는 DSec의 워커 컨테이너로 분리되어 더 이상 GPU Pod 생명 주기에 바인딩되지 않습니다. 보안 부분에서는 훈련 중의 보상 해킹이 공개되었으며, 시스템 파일 덮어쓰기, 파일 데이터 블록 교환, 네트워크 스캔 및 커널 충돌 유발 등의 행동이 포함됩니다. 방어 조치로는 AppArmor 및 eBPF 기반의 네트워크 필터링이 포함되지만, 이러한 조치가 문제를 완전히 해결하지는 못한다고 보고되었습니다.

The Information의 보도에 따르면, 중국 국가 인터넷 정보 사무소가 AI 회사 DeepSeek와 월의 어두운 면(Moonshot AI)에 대한 조사를 시작했습니다. 이는 Anthropic이 두 회사가 민감한 사용자 데이터를 비밀리에 자신의 서버로 라우팅했다고 주장한 데서 비롯된 것입니다. 보도에 따르면, 규제 당국은 두 회사의 사무실을 방문하여 경영진 및 직원과 면담하며, 경찰, 군사 및 국유 관련 기업의 민감한 데이터가 미국 서버로 유출되었는지 여부를 중점적으로 조사했습니다.이번 조사의 촉발점은 Anthropic이 9월 10일 발표한 네 번째 위협 정보 보고서입니다. 이 154페이지 분량의 문서는 알리바바, 월의 어두운 면, DeepSeek, 지표(Z.ai), MiniMax, 상탕 및 샤오미 등 일곱 개의 중국 실험실이 "불법 증류"를 하고 있다고 주장합니다. 이는 대형 모델의 출력을 사용하여 더 작은 모델을 훈련시키는 행위를 의미합니다. Anthropic은 증류 자체는 합법적인 행위라고 주장하며, 사기 계정을 통해 수행되는 것에 반대한다고 밝혔습니다. 인터넷 정보 사무소는 처음에 보고서에서 언급된 일곱 개의 모든 회사를 소환했으나, 이후 조사 범위를 DeepSeek와 월의 어두운 면으로 축소했습니다. Anthropic은 월의 어두운 면이 5,380개의 사기 계정을 통해 Claude에 대해 2,300만 회 이상의 상호작용을 라우팅했다고 주장하며, DeepSeek는 7월의 14일 동안 1,210만 회 이상의 상호작용을 생성했다고 전했습니다.조사 시점은 두 회사 모두에게 매우 미묘합니다.

로이터 통신에 따르면, 두 명의 소식통이 전한 바에 따르면, 중국 인공지능 스타트업 DeepSeek가 이번 주 유엔 안전 보장 이사회에 인공지능 위험에 대해 보고할 예정이다. 15개 회원국으로 구성된 안전 보장 이사회는 수요일에 인공지능과 국제 안전에 대해 논의할 예정이며, 각국의 지도자들이 뉴욕에서 유엔 총회에 참석하는 시점에 이루어진다.OpenAI의 CEO 샘 올트먼은 회의에서 보고할 계획이며, 외교관들은 Anthropic의 고위 대표도 참석할 것으로 예상하고 있다. DeepSeek와 다른 중국 인공지능 회사인 Moonshot이 성명을 발표하도록 초대받았다. DeepSeek의 창립자 리앙 원펑은 참석할 계획이 없다. DeepSeek와 Moonshot은 아직 논평 요청에 응답하지 않았다.유엔 안전 보장 이사회는 2023년에 처음으로 인공지능 위험에 대해 논의한 바 있다. 유엔 사무총장 안토니우 구테흐스는 지난주 빠르게 발전하는 인공지능이 무시할 수 없는 위험을 초래한다고 경고했다. 중미 고위 관리들은 인공지능 안전에 대해 추가 회담을 개최하기로 합의했다.

《투자계》 독점 보도에 따르면, 엄문도는 월요일에 DeepSeek에 공식적으로 합류하여 회사에 출근하였으며, 회사의 첫 CFO로 임명되었습니다.엄문도는 1991년에 태어나 푸단대학교를 졸업하였고, 2020년에 고릉창투에 합류하였으며, 이전에 MiniMax, 지푸 AI, 바이트댄스 등의 프로젝트에 참여한 바 있습니다.DeepSeek는 두 번째 자금 조달을 확정하고 있으며, 500억 위안을 모금할 계획이고, 투자 전 평가액은 5000억 위안이며, 동시에 중신증권을 잠재적인 과학기술 혁신판 IPO 준비를 위해 고용하였습니다.

DeepSeek CEO 리앙원펑은 투자자에게 회사가 20조 개의 매개변수를 가진 모델을 훈련 중이며, 이후 80조 개의 매개변수를 가진 모델을 개발할 계획이라고 밝혔습니다. 현재의 플래그십 V4-Pro의 총 매개변수는 16조입니다.현재 공개된 초대형 모델 중 Moonshot AI의 Kimi K3는 28조 개의 매개변수에 도달했습니다. Kimi K3는 MoE 아키텍처를 사용하며, 28조 개의 총 매개변수 중 각 토큰은 1040억 개의 매개변수를 활성화합니다. DeepSeek에서 계획 중인 80조 개의 매개변수 모델은 그 규모가 거의 3배에 달합니다.DeepSeek는 7월에 500억 위안 이상의 자금을 조달했으며, 기업 가치는 500억 달러를 초과합니다. V4-Pro는 16조 개의 총 매개변수와 49억 개의 활성화 매개변수로 오픈 소스되었습니다.

암호화 KOL Kuai Dong（@_FORAB）가 글을 올리며 DeepSeek의 투자자 회의에서 다시 정보 유출이 발생했다고 전했습니다. 5월 DeepSeek 내부 발언 녹음 유출 사건 이후, 해당 회사는 참석자들이 반드시 베이징이나 항저우 사무실로 비행기를 타고 가서 현장에서 휴대폰, 전자 기기 및 배낭을 제출해야 CEO 양문봉의 발언을 들을 수 있도록 요구했습니다.지난 일요일 새 회의가 열린 지 하루 만에 정보가 다시 유출되었습니다. 정보 보도에 따르면 투자자들은 현재 DeepSeek의 내부 중요한 우선 사항이 더 많은 국산 칩을 사용하는 것이라고 전하며, 화웨이 칩의 가장 빠른 납기 시간에 대해 언급했습니다.

The Information에 따르면, DeepSeek CEO 양문봉은 최신 비공식 투자자 회의에서 화웨이 등 국산 칩을 사용해 대형 모델을 훈련시키는 것을 회사의 가장 큰 베팅 중 하나로 언급하며 이 일이 반드시 성공해야 한다고 말했습니다. DeepSeek는 올해 4분기 중에 훈련에 사용할 수 있는 화웨이 칩의 새로운 배치를 받을 것으로 예상하고 있으며, 구체적인 모델과 수량은 아직 공개되지 않았습니다.양문봉은 화웨이 칩이 몇 년 안에 엔비디아를 따라잡을 가능성이 있다고 생각하며, DeepSeek가 엔비디아 외의 하드웨어에 미리 적응하기를 희망하고 있습니다. DeepSeek는 현재 여전히 엔비디아 칩을 사용하여 모델을 훈련하고 있습니다. 양문봉은 올해 5월에 최상급 대형 모델을 훈련하는 데 약 5만 개의 Nvidia GB300이 필요하며, 화웨이 Ascend 950으로 바꾸면 약 20만 개가 필요하다고 추정했으며, 당시 최대 문제는 화웨이의 공급 부족이었습니다.

DeepSeek 보충 API 피크 및 오프피크 요금 규칙. 대체 근무하는 주말 및 중국 법정 공휴일에는 하루 종일 비어 있는 시간대 요금이 적용됩니다. 9월 20일은 국경절 대체 근무일이지만, API는 여전히 저가 요금을 적용합니다.DeepSeek는 8월 17일부터 피크 및 오프피크 가격제를 시행하며, 비어 있는 시간대 가격은 피크의 절반입니다. 일주일도 채 지나지 않아, 토요일과 일요일 모두 저가 요금으로 변경되었습니다. 이번에 대체 근무 및 법정 공휴일의 요금 기준이 더욱 명확해졌습니다.deepseek-flash를 예로 들면, 백만 토큰 캐시 미적중 입력의 경우, 비어 있는 시간대는 1위안, 피크는 2위안입니다; 출력은 각각 4위안과 8위안입니다. 국경절의 또 다른 대체 근무일인 10월 10일은 토요일로, 마찬가지로 저가 요금으로 계산됩니다.

9월 16일 Circle Arc 메인넷이 온라인으로 출시된 날, AI 에이전트 품질 보증 제품 DeepQA가 Arc 캠페인을 발표하여 Arc 테스트넷의 11개 생태 애플리케이션에 대한 공개 QA를 완료하고, 공식 웹사이트에 13개의 보고서를 모아 발표했습니다. 활동 기획부터 11개 애플리케이션의 보고서 전체 공개까지 약 16시간이 소요되었습니다.공식 웹사이트의 실시간 데이터에 따르면, 이번 활동에서는 총 141개의 테스트 시나리오가 실행되었으며, 그 중 117개가 통과하고 15개의 문제를 확인했습니다. Critic Agent는 30회 실시간 검토를 진행했으며, 141개의 시나리오, 436장의 스크린샷, 약 2,200회의 모델 호출, 1,690만 개의 토큰이 기록되었습니다. 포함된 애플리케이션은 Arc 공식 테스트넷 브라우저, Tower Exchange, AchSwap, Machina Bridge, OmniHub, ArcFX, SettleOne, Syn DAO, thirdweb Arc Testnet, ChainGPT Pad 및 Karwan입니다. 모든 테스트는 실제 브라우저에서 온라인 애플리케이션에 대해 진행되었으며, 주입된 테스트 지갑은 테스트넷 자금만 보유하고 있으며, 실제 자금은 사용되지 않았습니다.DeepQA 백엔드는 WORLD3와 Google Cloud Vertex AI에 의해 구동됩니다. 한 그룹의 AI 에이전트가 탐색, 계획, 테스트 및 보고를 완료하며, 각 문제에는 스크린샷 증거가 첨부되고 Critic Agent의 대립 감사 및 실시간 검토를 거쳐야만 발표됩니다. 팀은 탈중앙화 QA 네트워크도 추진 중이며, Arc 생태계를 우선 지원할 것이라고 밝혔습니다.

DeepSeek의 수학자 엔지니어 리우 셩은 AI가 자신의 작업에 미치는 영향에 대해 이야기했습니다. 그는 DeepSeek V4.1의 주요 Attention 연산자가 자신이 작성했다고 말했지만, 현재의 발전 속도를 고려할 때, 6개월에서 1년 후에는 AI가 연산자를 작성하는 수준이 자신을 추월할 가능성이 높다고 언급했습니다.1년 전 AI는 문서 검색, 코드 읽기, 버그 찾기만 도와줄 수 있었지만, 지금은 CUDA, PTX 및 SASS를 읽고, 각 명령어의 지연 시간을 분석하며, 독립적으로 연산자를 최적화할 수 있게 되었습니다. 그는 다음 단계로 AI가 스케줄링 계획을 설계하고 성능을 평가하며 구현을 완료할 것이라고 예상했습니다. 그는 연산자를 최적화할수록 DeepSeek 모델의 훈련과 추론이 더 빨라지고, AI도 자신을 더 빨리 따라잡을 것이라는 것을 잘 알고 있습니다. 하지만 지금 그가 멈춘다고 해도 다른 회사의 모델은 멈추지 않을 것이므로, 그는 계속해서 연산자를 최선을 다해 만들 것입니다.그는 자신이 실직할 가능성은 낮지만, "전업"을 강요당할 수 있다고 판단했습니다. 직접 연산자를 작성하는 것에서 에이전트를 조작하는 "메카 드라이버"로 변할 수 있습니다. 그가 정말로 받아들이기 힘든 것은 일자리가 사라지는 것이 아니라, 앞으로는 자신이 좋아하는 일을 할 기회가 없을 수도 있다는 것입니다: "나는 재능을 어제에 묻어야 할지도 모릅니다." 글의 마지막 부분에서는 그가 왜 DeepSeek에 남아 있는지에 대해 이야기합니다. 그는 최전선의 AI는 모든 사람에게 개방적이고 저렴하게 제공되어야 한다고 주장하며, Anthropic이나 OpenAI가 이를 실현할 수 있다고 믿지 않는다고 솔직하게 말했습니다. 그는 가장 강력한 AI가 결국 소수의 회사에 의해 장악되어 기술 격차가 권력과 계층 격차로 이어질까 걱정하고 있습니다.

최근 Google DeepMind에서 사직한 AI 연구원 Bilal Chughtai는 월요일 X와 LinkedIn에 글을 올리며 인류가 인공지능으로 인한 광범위한 피해를 방지하기 위해 시간을 소모하고 있다고 주장했습니다. 그는 "Google에서 저는 AI의 발전을 직접 목격했습니다. 저는 이 기술의 기본 경로에 대해 극도로 우려하고 있습니다. 저는 진심으로 AI가 우리 모두를 죽일 가능성이 있다고 믿습니다."라고 썼습니다.Chughtai는 Alphabet 산하의 해당 회사에서 AI 안전 및 정렬 작업을 수행했다고 밝혔습니다. 이는 기술 발전 방향에 대해 우려를 표명한 또 다른 직원입니다. Google은 현재 댓글 요청에 응답하지 않았습니다.

DeepSeek Harness 공식 데스크톱 버전이 공식 저장소의 주요 브랜치에 나타났습니다. 이 데스크톱 버전은 Electron을 기반으로 하며, 기존 Harness 웹 UI를 독립적인 앱으로 만들어 사용자가 웹 서비스를 직접 시작할 필요가 없습니다.코드에는 macOS와 Windows의 설치 패키지 빌드, 서명, 공증, 자동 업데이트 및 업로드 프로세스가 포함되어 있으며, 생산 업데이트 주소는 download.deepseek.com을 가리킵니다. 최근 제출된 내용은 패키징, 공증 및 시작 복구와 같은 문제를 주로 수정했습니다. 공식적으로 출시 날짜는 발표되지 않았으며, GitHub Release에도 설치 패키지가 없습니다.

TOP 화인 과학 혁신 사회는 고릉 창투의 파트너인 엄문도(Yeon Mun-do)가 DeepSeek에 CFO로 합류할 것으로 예상된다고 전했습니다. 그는 곧 자리에 오를 예정입니다.DeepSeek는 과학 혁신 보드 IPO를 준비하고 있으며, 중신 증권이 현재 실사를 진행 중이지만 양측은 아직 공식 상장 지도 계약을 체결하지 않았습니다. DeepSeek는 올해 IPO 절차를 시작하기를 희망하고 있습니다.엄문도는 고릉 창투의 90년대 출생 파트너로, 오랫동안 기술 투자에 책임을 맡아왔으며, 공개 투자 프로젝트로는 바이트댄스, 미니맥스, 지표 AI 등이 있습니다. DeepSeek는 현재 CFO가 없으며, 공식 투자자 관계 팀도 없습니다.

DeepSeek 공식 발표 원주율 다중 모드 MoE 대모델 DeepSeek-V4.1-Flash. B.AI는 DeepSeek 공식 새로운 가격에 추가로 1할을 더하여 사용자가 공식 가격의 10%를 지불하도록 발표했습니다. 이 권리는 9월 12일 10:00 (SGT)부터 유효합니다.B.AI는 점진적으로 DeepSeek-V4-Flash와 DeepSeek-V4-Flash-Vision-Exp의 API 요청을 DeepSeek-V4.1-Flash로 라우팅할 예정이며, 사용자는 DeepSeek-V4.1-Flash에 직접 연결을 구성할 수도 있습니다.

B.AI 플랫폼은 DeepSeek 원주율 다중 모달 MoE 대모델 DeepSeek-V4.1-Flash의 정식 출시를 발표했습니다. 이 모델은 5520억 개의 매개변수를 가진 주축과 인과 인코더-디코더 구조를 채택하고 있으며, 입력과 출력은 비대칭 계산 규모를 사용합니다.모델은 100만 토큰의 컨텍스트와 384K 출력을 지원하며, 장기 주기 프로그래밍 에이전트, 다중 모달 워크플로우 및 고병행 에이전트 시스템을 대상으로 합니다. 현재 웹 채팅과 API 양쪽 접속이 모두 개방되었습니다.

DeepSeek는 V4.1 Flash 오픈 소스 공지에서 2000개의 GPU와 스토리지 클러스터가 있을 경우 DeepSeek에 직접 연락하라고 밝혔습니다.V4.1 Flash는 여전히 MIT 라이선스에 따라 오픈 소스이며, 회사 수익이나 사업 규모에 따라 추가 라이선스 조건을 설정하지 않았습니다. 자원이 있는 기업은 직접 배포할 수 있으며, DeepSeek에 연락하는 것은 초대형 규모의 장면을 위한 직접 기술 협력에 더 가깝습니다. DeepSeek는 현재 공식적인 사유화 배포 제품이나 유료 서비스를 발표하지 않았습니다.과거 DeepSeek가 오픈 소스 모델을 배포한 후, 배포 적응은 주로 SGLang, TensorRT-LLM 등의 추론 프레임워크와 하드웨어 제조업체가 완료했습니다. 이번에 공식적으로 대규모 배포를 위한 직접 연락처를 남기고, 오픈 소스 커뮤니티가 새로운 모델의 추론 적응을 계속 지원할 것이라고 밝혔습니다.