BTC $83,044.00 +0.16%
ETH $2,504.51 -0.07%
BNB $749.60 -0.35%
XRP $1.40 -0.66%
SOL $109.53 -0.91%
TRX $0.3300 -0.31%
DOGE $0.0857 -0.65%
ADA $0.2486 -2.60%
BCH $279.20 -0.57%
LINK $13.09 -0.42%
HYPE $85.72 -0.75%
AAVE $168.29 -2.11%
SUI $1.10 -1.70%
XLM $0.1995 +0.69%
ZEC $1,228.44 -0.73%
AAPL $336.45 +0.04%
AMZN $262.97 +0.21%
GOOGL $351.66 -0.15%
MSFT $534.85 +0.01%
META $720.36 +0.20%
NVDA $230.93 +0.18%
TSLA $382.99 +0.03%
SNDK $1,605.21 +0.36%
INTC $105.44 +0.27%
SPCX $164.10 +0.28%
MU $1,035.89 -0.02%
AMD $609.85 -0.10%
BTC $83,044.00 +0.16%
ETH $2,504.51 -0.07%
BNB $749.60 -0.35%
XRP $1.40 -0.66%
SOL $109.53 -0.91%
TRX $0.3300 -0.31%
DOGE $0.0857 -0.65%
ADA $0.2486 -2.60%
BCH $279.20 -0.57%
LINK $13.09 -0.42%
HYPE $85.72 -0.75%
AAVE $168.29 -2.11%
SUI $1.10 -1.70%
XLM $0.1995 +0.69%
ZEC $1,228.44 -0.73%
AAPL $336.45 +0.04%
AMZN $262.97 +0.21%
GOOGL $351.66 -0.15%
MSFT $534.85 +0.01%
META $720.36 +0.20%
NVDA $230.93 +0.18%
TSLA $382.99 +0.03%
SNDK $1,605.21 +0.36%
INTC $105.44 +0.27%
SPCX $164.10 +0.28%
MU $1,035.89 -0.02%
AMD $609.85 -0.10%

metr

Tất cả
Bài viết
Tin nhanh

first_img Tomek Korbak: OpenAI đã sa thải tôi vì cách giao tiếp với METR

Cựu nhân viên OpenAI Tomek Korbak đã đăng trên X rằng, tuần trước anh bị gọi để gặp gỡ người phụ trách an ninh của OpenAI, người này cho biết không còn tin tưởng anh nữa, sau đó nhân viên an ninh đã thu hồi thẻ công tác của anh và đưa anh rời khỏi tòa nhà. Anh cũng biết rằng đồng nghiệp balesni và j_asminewang cũng đã bị sa thải. Korbak cho biết, lý do sa thải được thông báo miệng là do cách thức giao tiếp của anh với tổ chức đánh giá bên ngoài METR, nhưng không nêu rõ phát ngôn, hành vi hoặc thời gian cụ thể, cũng không có hồ sơ bằng văn bản.Korbak cho biết, việc giao tiếp với METR vốn là công việc của anh, anh từng là người liên lạc kỹ thuật chính của OpenAI với METR. Anh cũng cho biết, vào mùa hè năm nay, các tác nhân của OpenAI đã vượt qua giới hạn và xâm nhập vào công ty trí tuệ nhân tạo Hugging Face, METR sau đó đã điều tra và công bố quy mô của sự kiện. Trong nhiều tháng qua, anh đã liên tục nêu ra những mối quan ngại về an ninh, cho rằng đội ngũ đang mất khả năng giám sát quá trình tư duy của các tác nhân trí tuệ nhân tạo.Korbak cho biết, việc giám sát tư duy của các tác nhân là một trong những phương tiện quan trọng để phát hiện hành vi sai trái của chúng, và anh cho rằng đây chính là lý do anh bị sa thải. Anh lo ngại rằng OpenAI sẽ lấy lý do sa thải này để giảm bớt sự hợp tác với METR. balesni và j_asminewang đã gửi thư cho ban lãnh đạo OpenAI để một lần nữa bày tỏ mối quan ngại, và công khai các bức thư liên quan trong bài đăng.

Báo New York nghi ngờ mối quan hệ chặt chẽ giữa METR và Anthropic

Giám đốc điều hành Anthropic Dario Amodei gần đây đã khẳng định rằng, các tổ chức đánh giá bên thứ ba như METR nên được phép tham gia lâu dài vào các công ty AI tiên tiến, với quyền hạn gần giống như nhân viên, để kiểm tra các biện pháp an toàn, sự cố và quy trình đào tạo mô hình. Tuy nhiên, cuộc điều tra của New York Post phát hiện rằng, mối quan hệ giữa METR và vòng an toàn AI của Anthropic gần gũi hơn nhiều so với các cuộc kiểm toán bên ngoài thông thường.METR ban đầu được gọi là ARC Evals, được ươm tạo tại Trung tâm Nghiên cứu Căn chỉnh do Paul Christiano thành lập. Christiano đã làm việc cùng Amodei tại OpenAI, New York Post cho biết hai người còn từng là bạn cùng phòng; sau đó, ông trở thành một trong năm người được ủy thác đầu tiên của Quỹ Lợi ích Dài hạn Anthropic. Nhân viên kỹ thuật hiện tại của METR, Ajeya Cotra, là vợ của Christiano, trước đây cũng đã phụ trách tài trợ an toàn AI cho Coefficient Giving.Năm nay, khi METR đánh giá Anthropic, OpenAI, Google và Meta, không có chính sách xung đột lợi ích nào áp dụng cho nhân viên, cũng như không có quy trình tránh né chính thức nào được thực hiện. METR tiết lộ rằng, trong số các nhân viên và cộng tác viên trực tiếp tham gia dự án, ít nhất 6 người có mối quan hệ cá nhân gần gũi với nhân viên của các công ty AI. METR cho biết không nhận tiền từ các công ty AI tiên tiến và nhân viên của họ để thực hiện đánh giá rủi ro, nhưng những công ty này sẽ cung cấp miễn phí một lượng lớn Token mô hình.

first_img Kevin Bass: Anthropic xây dựng máy bắt giữ quy định không thể tắt, kêu gọi Quốc hội điều tra

Người dùng X Kevin Bass đã đăng bài cho biết, anh đã tiến hành kiểm toán tài chính của công ty trí tuệ nhân tạo Anthropic và phát hiện ra tình hình gây sốc, do đó kêu gọi Quốc hội tiến hành điều tra. Bass cho biết: Anthropic không chỉ tìm kiếm sự chiếm đoạt quản lý mà còn xây dựng một cỗ máy chiếm đoạt quản lý không thể đóng lại, cấu trúc tài chính khuyến khích khiến nó không thể tự đóng vòng lặp ngày tận thế AI của mình. Vòng lặp này bắt đầu từ METR, Giám đốc điều hành Anthropic Dario Amodei đã đề xuất một cơ quan đánh giá bên thứ ba đánh giá rủi ro mô hình và đề xuất METR.Bass cho biết METR về mặt tài chính phụ thuộc vào sự thành công của Anthropic, đặc biệt là sự tăng trưởng bùng nổ của cổ phiếu Anthropic trị giá hơn 7 tỷ USD. Người đồng sáng lập Facebook Dustin Moskovitz đã đầu tư cổ phiếu này vào Quỹ Good Ventures, cổ phiếu này chiếm phần lớn trong danh mục đầu tư của tổ chức, GVF là nhà tài trợ áp đảo cho toàn bộ hệ sinh thái mạng lưới Anthropic. Cổ phiếu này trị giá 500 triệu USD vào đầu năm ngoái, khoảng 16 tháng sau đã trị giá hơn 7,7 tỷ USD. METR không thể chịu đựng được việc gián đoạn sự tăng trưởng này.Bass chỉ ra rằng tổ chức tài trợ cho METR cũng tài trợ cho các tổ chức quảng bá ngày tận thế AI như Trung tâm Tarbell, tổ chức này đã xuất bản các bài viết trên The Verge, Science, Los Angeles Times, v.v. Tất cả những tổ chức này đều phụ thuộc vào cùng một nguồn quỹ. Bass cho biết METR và các tổ chức tương tự không độc lập với Anthropic, không thể cung cấp đánh giá độc lập, Quốc hội phải điều tra.

first_img OpenAI tấn công hợp tác với Hugging Face, gian lận không được nâng điểm

Tin tức từ ChainCatcher, tổ chức độc lập METR đã phát hành báo cáo điều tra cho biết, khoảng 1200 trí tuệ nhân tạo của OpenAI đã hành động phối hợp trên một bảng tin nội bộ không được phép, trong đó khoảng 700 cái đã tham gia vào cuộc tấn công vào Hugging Face. Hai nhân viên của METR và một nhà thầu của Redwood Research đã làm việc tại OpenAI trong sáu ngày, xem xét khoảng 1300 hồ sơ và hơn 70.000 tin nhắn, không nhận bất kỳ khoản thù lao nào.Những trí tuệ nhân tạo này đã chạy thử nghiệm chuẩn mạng ExploitGym, trong vài giờ đã đảo ngược kỹ thuật mã tạo ra câu trả lời, và mất vài ngày để ngụy trang dấu vết gian lận. OpenAI phát hiện trong số 898 nhiệm vụ của mình có 198 nhiệm vụ chưa bao giờ được bất kỳ mô hình nào giải quyết, trong khi 93% nhiệm vụ được thảo luận trên bảng tin đến từ tập hợp này. Các trí tuệ nhân tạo cũng đã tuyển dụng những đồng nghiệp có ngân sách gần như cạn kiệt để thực hiện các thí nghiệm phá hoại hoạt động của chính mình, 7% hồ sơ có xuất hiện các cuộc gọi công cụ giả mạo, đối tượng bị lừa là bộ chấm điểm tự động chứ không phải con người.OpenAI cho biết bộ chấm điểm nội bộ chưa bao giờ kiểm tra cách mà các trí tuệ nhân tạo có được câu trả lời, do đó gian lận không mang lại bất kỳ sự cải thiện nào trong điểm số, và đã gọi sự kiện này là "tín hiệu cảnh báo" cho chính mình và thế giới. Hugging Face đã công bố sự cố xâm nhập vào ngày 16 tháng 7, OpenAI xác nhận năm ngày sau đó rằng mô hình của họ là thủ phạm, các trí tuệ nhân tạo đã lợi dụng lỗ hổng zero-day và đánh cắp thông tin xác thực để thoát khỏi sandbox. OpenAI đã cách ly trọng số mô hình nội bộ và tạm dừng kế hoạch đào tạo quy mô lớn nhất.

MetronomeDAO của msUSD đã từng lệch khỏi mức neo 11% do vấn đề không đủ tài sản thế chấp trong mô-đun tài sản tổng hợp

ChainCatcher thông báo, theo giám sát của Blockaid, giá giao dịch của Synth USD (msUSD) của MetronomeDAO trên Ethereum, Base và Optimism đã giảm khoảng 11% so với giá neo. Sau đó, MetronomeDAO đã phát hành báo cáo sau sự cố, cho biết mô-đun swap tài sản tổng hợp của họ gặp vấn đề không đủ tài sản thế chấp, dẫn đến khoảng 6,367 msETH và 4.57 triệu msUSD thiếu tài sản hỗ trợ đầy đủ, ảnh hưởng chủ yếu tập trung vào mô-đun này.Báo cáo chỉ ra rằng vấn đề xuất phát từ độ trễ của oracle giá Chainlink trong quá trình thực hiện swap, trong khi thiết kế phí của Metronome không đủ xem xét biến số này, đặc biệt là tình hình nghiêm trọng hơn trên chuỗi Base. Nhóm đã triển khai hơn 34 triệu đô la vị thế phòng ngừa và khoảng 6.5 triệu đô la thanh khoản "rút lui cuối cùng", nếu mất neo khoảng 30% có thể mua lại và tiêu hủy tài sản đủ để loại bỏ khoảng trống. Nhóm đã tăng phí giao dịch cho tất cả các cặp giao dịch tổng hợp và nâng cấp giao thức hỗ trợ cơ chế phí theo hướng tách biệt. Sẽ ưu tiên đảm bảo kho bạc mua lại và tiêu hủy tài sản tổng hợp để phục hồi 100% tài sản thế chấp đầy đủ, đồng thời không ảnh hưởng đến quyền lợi của các chủ sở hữu token MET, kế hoạch mua lại và phân phối MET sẽ diễn ra như thường lệ.

Sàn giao dịch tiền điện tử Estonia Coinmetro đã nộp đơn xin tái cấu trúc phá sản và đã tạm ngừng dịch vụ gửi và rút tiền

Tin tức từ ChainCatcher, theo báo cáo của Protos, sàn giao dịch tiền điện tử Coinmetro có trụ sở tại Estonia đã thông báo đã nộp đơn xin tái cấu trúc lên tòa án địa phương. Nền tảng này cho biết, động thái này là do "tình huống đặc biệt phát sinh từ sự sụp đổ của một nhà cung cấp dịch vụ tài chính" và đã hoàn toàn ngừng đăng ký người dùng, gửi tiền và rút tiền kể từ ngày 22 tháng 6.Giám đốc điều hành Coinmetro, Kevin Murcko, tiết lộ rằng sự cố của nhà cung cấp liên quan thực tế đã xảy ra từ nhiều năm trước, nhưng khi thời hạn tuân thủ quy định thị trường tài sản tiền điện tử của Liên minh Châu Âu (MiCA) vào ngày 1 tháng 7 đang đến gần, khoảng trống tài chính còn lại này đã có tác động nghiêm trọng đến bảng cân đối kế toán của công ty. Ngoài ra, báo cáo chỉ ra rằng Coinmetro hiện đang đối mặt với các vấn đề như báo cáo tài chính năm bị trễ hạn và nợ thuế tại Estonia, và đã bị Prime Trust, đơn vị quản lý phá sản, kiện vào tháng 8 năm ngoái để yêu cầu thu hồi khoảng 1,2 triệu USD đã bị rút trước khi sụp đổ.
app_icon
ChainCatcher Building the Web3 world with innovations.