Je velmi dobré, že Anthropic neustoupil, a je pozoruhodné, že OpenAI zaujal podobný postoj.
V budoucnu přijde mnohem náročnější situace tohoto druhu a bude zásadní, aby se relevantní lídři postavili výzvě, aby tvrdí soupeři odložili své rozdíly stranou. Je fajn to dnes vidět.
Je nesmírně dobré, že Anthropic neustoupil, a je významné, že OpenAI nyní přijalo stejné podmínky.
V budoucnu přijde mnohem náročnější situace tohoto druhu a bude zásadní, aby se relevantní lídři postavili výzvě, aby tvrdí soupeři odložili své rozdíly stranou. Je fajn to dnes vidět.
Jedna věc, kterou jsem zmínil, ale nebyla jsem jasná:
- Škálování současného zařízení povede k dalším zlepšením. Zejména se nezdrží.
- Ale něco důležitého bude dál chybět.
here are the most important points from today's ilya sutskever podcast:
- superintelligence in 5-20 years
- current scaling will stall hard; we're back to real research
- superintelligence = super-fast continual learner, not finished oracle
- models generalize 100x worse than humans, the biggest AGI blocker
- need completely new ML paradigm (i have ideas, can't share rn)
- AI impact will hit hard, but only after economic diffusion
- breakthroughs historically needed almost no compute
- SSI has enough focused research compute to win
- current RL already eats more compute than pre-training