Kevin Roose deixa el New York Times i llança el podcast 'Déus Màquina'

Avui, I Alexandrom parla amb en Kevin Roose, periodista i autor del nou llibre The AGI Chronicles, que detalla la transformació recent i explosiva de la indústria de l'AI.

En Kevin era un periodista de molt temps New York Times i un presentador del conegut podcast Hard Fork, però ell i amic del programa Casey Newton acaba de deixar el Times per començar els nous Déus de la màquina de podcasts tecnologia, que van llançar la setmana passada.

En Kevin i jo vam parlar d'engegar déus de màquines i de com és anar des de The New York Times per ser un creador independent i després vam parlar del llibre, que és una immersió excel·lent en les empreses corrent per crear intel·ligència artificial general.

Volia tenir un sentit d'en Kevin del que era informar d'això, intentar entendre aquests personatges i aquest moment en el temps, i on tot va després. Alerta justa: aquesta conversa pren un gir bastant filosòfic al final, però crec que va a findar que realment val la pena tornar enrere i per sempre.

En Kevin Roose a The AGI Chronicles, comença els Déus de la màquina, i d'on ve l'AI d'aquí. Som-hi.

Aquesta entrevista s'ha editat a la lleugera per la longitud i la claredat.

Kevin Roose, vostè és l'autor de The AGI Chronicles i dels cofundadors i co-ordinadors dels nous Déus Màquina de podcasts. Benvingut al desempaquetat.

Moltes gràcies per tenir-me.

Estava escoltant el primer episodi de Déus Màquina i tu i en Casey heu discutit el fet que tècnicament teniu el títol de director general.

Es veritat. Vaig guanyar la volta de monedes i necessitàvem algú. Quan comences a una companyia tal com tenim, has de llistar algú com a director general, suposo, a saber qui seguir davant del Congrés quan trenca inevitablement el nostre primer escàndol. Així que aquest és el meu fill.

Es graciós perquè Tu ets un director general en el descompost. Vol dir que Iíem que et fes les preguntes del descompost.

D'acord. Bé, he estat un director general durant uns cinc minuts i la majoria de dies he oblidat que sóc el director general.

Honestament, les vies amb la majoria dels directors a l'espectacle. Tots actuen com si només ho fessin durant cinc minuts. L'hem d'anar a veure.

Vull parlar del teu llibre. El seu nom és "The AGI Chronicles." És un llibre meticulosament reportat sobre els laboratoris de la frontera principal i el torn cultural que ells van fer desallotjat com l'AI ha arribat al capdavant i es converteix en un producte molt més comercial de moltes maneres.

Però deixa que els pagans comencin amb els déus de la màquina. Vas ser periodista per al New York Times durant molt de temps. Òbviament, crec que el públic probablement ho sap, però tu i jo ens hem conegut des de fa molt de temps. Ho diré des que et conec, el teu desig de ser un YouTube ha estat més alt del cap. Tu ets com, Gabriel Com vaig arribar allà?

Has deixat el Times, has començat el teu propi podcast amb el nostre amic Casey Newton. És la següent generació del podcast molt popular, Fork Hard, que era excel·lent. I l'Ingliço m'alegra per tu, però què t'ha fet saltar el salt?

-...

[Image: https://plixi. la vora.com/wp-content/uploads/2/chorus/chorus_ miste/file/24792604/ The_ Verge_Decode_artile.jpg?=90 i Sprip=all]

Els subscriptors verge, no oblideu que teniu accés exclusiu a un descomunicador lliure allà on tingueu els vostres podcasts. Aquí el cap. No és un subscriptador? Pots signar aquí.

-...

Sí, has estat intentant convèncer-me d'això durant tot el temps que he intentat convèncer-me i no has tingut èxit perquè sóc aquí.

Sí, he fallat. L'Utterly ha fallat.

No, mira, crec que per alguns bons motius, les companyies de mitjans han estat una mica llargues guerra per anar a YouTube o qualsevol altre plataforma de vídeo. Els que s'han anat tots en no necessàriament surten d'això amb bons sentiments sobre ell perquè hi ha un munt d'Eynthen

Sí, es gira al vídeo i també a la mort, rutinalment.

Sí, et gires al vídeo o perds un munt de diners fent coses que no paguen per ells mateixos. Per tant, crec que hi ha algunes raons econòmiques estructurals per això, però també crec que els psyrcics que hi ha moltes institucions equipades per fer aquest tipus d'aposta a llarg termini.

Iíeu que la gent de YouTube fa molts anys que intenta els mitjans, com sabeu. Has intentat desfer-te de YouTube fent-te enrere, però crec que a partir d'ara ja no hi ha cap plataforma de mitjans més important del món. Parla d'un lloc on el periodisme no té cap lloc central històricament.

Si haguessis de mirar a YouTube com un complet i intentar avaluar quin tros d'ella està dedicat a allò que tu o jo consideraria un periodisme d'alta qualitat, que fonia una petita part desapareixent de l'ecosistema global allà.

Per tant, part de la meva missió és resoldre-ho i esbrinar com fer YouTube i vídeo d'una manera que és sostenible d'una mena de punt de vista econòmic i creatiu. I llavors només per experimentar i fer un munt de coses.

Aquesta no és una cara que ha de ser a YouTube. Així doncs, a l'Intendorm també espera portar a altres persones i fer-ne unes quantes. Però miro el que el Verge ha fet allà. Miro com la gent com la Joanna Stern i la MKBHD han fet allà. Per a mi, això és molt emocionant, i això m'agrada un espai en el qual a n'hi ha yaruïnes molt menys que el text o els podcasts.

Els déus de la màquina són un podcast que vostè fa a l'associació amb NPR, que vull parlar. Però ho penses com un producte de YouTube?

Volem que sigui el primer vídeo. El que significa bàsicament és que donarem una merda sobre com és tenir un grau que no sempre hem fet. Anem a intentar donar a la gent moltes raons per voler mirar i escoltar.

Òbviament, sabem que hi ha gent que simplement no com podcasts de vídeo i que volem donar al públic d'àudio quelcom que sigui agradable, però aquesta és la direcció de les coses. Ara pots fer un podcast amb lastxyt, sense fer-ne un vídeo. Així que l'Antrenç intentarem acceptar-ho i fer una bona versió que és tan bo com que dos periodistes de mitjana edat puguin tirar-se a YouTube.

Realment el futur dels mitjans de comunicació és que els periodistes de mitjana edat es tornen a YouTube. Jo sento el mateix perquè Ijuchm ara fa més vídeos i això Stevens el que fem. Això serà fantàstic.

L'altra raó per deixar-ho i fer-ho tan sols és que la gent sap que els meus amics amb en Casey també, i jobelitze també ha estat parlant amb tu i ell durant molt de temps, és que la història de la IA és aquí. Hi ha un canvi de plataformes. Hi ha noves empreses, nous personatges, noves idees de què parlar en el món. Es graciós perquè en aquest context, també tens un canvi de medis. La manera en què expliquem històries o els formats que expliquem històries solen canviar al costat del que parlem o de la tecnologia de la qual parlem.

Aquí YouTube sembla la fundació dels mitjans de comunicació més sòlids que existeixen. És l'A/B que fa la mateixa cosa, encara que canvia i que a YouTube hi hagi Curts curts i ara ho pots provar tot A/B, incloent-hi la teva pròpia cara. Però Asshai és la que més és la mateixa. Instagram ha passat un canvi enorme i sembla que continuarà passant.

Se sent com YouTube és el lloc més estable per construir quan es tracta d'explicar aquestes noves històries?

Sí. Vull dir, òbviament mai vols posar tots els teus ous en una cistella. Per tant, també estem distribuïts vídeo a Apple podcasts i puntsucronitzar i nosaltres serem a tot arreu. Però sí, se sent relativament estable.

La pregunta que sempre em preguntava és: ¿quin seria el fet de reemplaçar YouTube? Moltes empreses han intentat reemplaçar YouTube, però per fer-ho, no només hauries de construir una experiència millor per als creadors i millor per als usuaris, sinó que també hauries de replicar tot el corcló visual de la humanitat. Hauries d'obtenir sis milions de vídeos de llampistes sobre com arreglar cada enfonsament individual i després pujar-lo a això. És molt difícil desfer-se'n. Està tan arrelat per a tanta gent, i simplement crec que els pagans seguiran creixent.

Quan parlem d'AI, fa molt de temps que li vaig preguntar a Google director general Sundar Pichai, MonstrosityBé, què faràs si no hi ha places més? i ell era una mena de , Ahbbia, que tenim YouTube. Segur que sí. I seguirà creixent.

Quina ha estat la cosa més sorprenent d'anar del New York Times a com es podria anomenar l'economia creadora?

Bé, n'estem molt noves, però sorprenents per a mi fins ara és quant m'agrada tot el negoci. Crec que en el periodisme, en Alexsonre sempre va ensenyar a quedar-se al teu carril, i mai abans he fet un negoci. En Casey ha fet un negoci. Sabia que li agradava. Però per a mi, aquests són els nous músculs i jo no en gaudeixo tot. Negociar les dades de l'assegurança per a la nostra cobertura de difamació no és el que em sentiria obligat. Però respecte a dirigir un negoci, hi ha alguna cosa per a aquest fundador.

Sí, és un bon moment. Es graciós, en parlar amb tu i amb en Casey i la Joanna, que també va marxar i va començar la seva pròpia cosa, que ve molt. Des de la meva perspectiva, Stevens fa molt de temps que ho fan. I si deixo de dirigir el negoci? Això sembla una opció. Aquest és el futur dels mitjans de comunicació que controlen els teus negocis i prenen el control de la vostra audiència. En Clarksons hi ha una cosa molt poderosa allà.

Una de les coses que vull parlar, i llavors definitivament vull parlar del llibre a llarg termini és l'audiència per a la cobertura de l'AI, perquè ho veig de dues maneres. A Hurghada hi ha un grup de persones construint les coses que li agraden i li volen consumir tot. Therersirs un grup de gent que realment l'odia i pensa que tot és fals.

I després, aquí, Meisner el que jo anomenaria un grup expandit al mig on els productes s'han convertit en més útils. Els has de mirar i avaluar com són. No eren molt útils fa un parell d'anys. Les promeses no van coincidir amb la realitat, però cada dia pot fer una cosa més que podria desobeir fer abans. Tant si aquesta cosa està entrant a tots els llocs web del món, us ho allunyem, però l'AI pot fer coses que puguin fer abans i el públic sembla estar canviant.

Com penses en el públic pels déus Màquina i en com pot créixer o canviar?

Vull dir, ara mateix us intentem provar un munt de coses que creiem que seran bones i esperem que trobi el seu públic natural. Però crec que vostè està bé que l'audiència està canviant. Crec que per un temps hi havia molta demanda per fer front a l'Irene, bàsicament la gent et diu que això no està passant, no cal que t'hi prestis atenció, que fa pudor, fa mal al medi ambient.

Encara hi ha algunes parts d'Internet. YouTube té una quantitat estranya d'això encara i Reddit també és molt anti-AI. Però crec que la majoria de gent, o almenys una pluralitat de gent, es resigna o s'emociona el fet que això no se'n vagi. Aquesta és l'audiència que busquem l'Aaron.

Nosaltres no intentem dir-vos que l'AI és sorprenent i que nosaltres serem a l'AI utopia sota el nou règim de màquines. Nosaltres també us diem que aquestes coses són falses i fa pudor i que se'n sortirà pel seu compte, així que no us cal que us ho faci res per regular-les o que us preocupeu per això. La frase Casey Casey Caseys per a aquest és l'AI realisme. Pensa que hi ha zeptòmetres un gran tros de gent que és una espècie de curiositat i interessada i potser una mica espantat, però la seva reacció a la por no és intentar enterrar els seus caps a la sorra, sinó intentar entendre-ho.

Així que vam començar a sentir això quan estàvem fent Forca en què faríem una cosa que no semblava la nostra sensació. Podríem fer un tutorial de codi en Claude on podríem passar mitja hora construint un lloc web i filmar-nos i tirar-lo i fer-ho genial. Així que la gent clarament tenia curiositat, i fins i tot si els comentaris dels vídeos tots eren de la gent que odiava l'AI, hi havia clarament una gran quantitat de demanda per a persones que eren com ara , MrorgI, volen saber què passa.

L'odi de l'IrcI que puc Beauxyt deixa d'observar aquest Carlemany és un tema real dins d'una cobertura de la IA per a moltes raons.

Deixa que el llibre parli. Crec que els pagans van a construir unes quantes de les altres preguntes que tinc. El llibre és meticulosament informat. És realment divertit llegir. I el punt d'això, com l'Ircieve us va sentir descriure, és explicar la història de la profunda revolució d'aprenentatge perquè tota aquesta gent només parla a senyal i en molt tuits infantils.

Parla'm d'aquest buit perquè és una indústria que està obsessionat amb documentar-se per ordinadors i ser canible als ordinadors i no a cap altra gent, que em sembla salvatge. Així que explica l'informe d'aquest llibre, perquè sembla convincent que fins i tot et diuen que el que va passar va ser un slog.

Ho era, sí. Bàsicament, la raó per la que vaig escriure això és perquè tenia por que tot això desaparegui. Sóc un aficionat de la història. M'encanta llegir llibres sobre els germans Wright o l'elecció d'Amèrica rural o dels moments de gran invent durant la revolució del PC. Itohm un ximple per a aquestes coses.

El que us adoneu que heu llegit més d'aquests llibres és que tots es basen en un munt de notes contemplatives i proves del laboratori que desenvolupen les notes dels científics en desenvolupament de la bomba atòmica, la correspondència entre els germans Wright i els seus amics de negocis, que es preserva i s'arxiva.

Va ser clar que em reportava sobre la IA cada dia que no hi havia res remotament semblant a això perquè A, tota la gent que construeix aquestes coses treballen per a companyies privades. No són empleats del govern els que són necessaris per conservar la seva correspondència. I B, tots els missatges de senyal i Slack són establerts pels advocats per a recuperar-los després d'un cert període. Així que literalment hi havia una desaparició massiva amb cada any que passa, crec, defectes històrics, moments i històries.

I llavors C, els investigadors estan massa ocupats per tenir notes. Tots ells estan rodant perquè ells estan intentant construir el déu de la màquina. Així que vaig pensar que com a periodista, però gairebé més aviat com a historiador, que no és un paper que he jugat oficialment, sinó un que crec que estava jugant amb aquest llibre. Jo era com, ManveenIventve va haver d'aconseguir aquestes coses perquè tinc aquesta mena de seient amb privilegis d'anell. Aquesta gent em parla. Sé que alguns s'asseuran i em parlen i m'explicaran les històries.

Vam fer moltes coses sobre el fons perquè es pogués protegir de les conseqüències de parlar amb mi. Però aquest era el meu intent d'enrabiar totes les coses i posar-les a l'arxiu on les futures generacions podien mirar-lo.

El tema que realment em salta a mi com he llegit el llibre era allà n'hi havia n'hi havia, n'hi havia n'hi havia, quan AGI va de ser una cosa que ells somnien per ser una cosa que tots han de construir i els grillons s'han acabat i diuen, RODUNANAN ens ho hem de fer, 2003-2003 i tots ells porten cap a ell tan dur com poden.

Parles específicament de Google on la finestra d'Overton es va moure i de sobte la gent de Google, que creia que tot això era un somni de pipa i bastant estúpid, va començar a parlar de l'AGI. Aquest moment se sent com l'únic moment més important de la història de la IA, en el qual es va molt bé, que és d'UllowWon, que és d'acord?

Parla'm d'això una mica, perquè aquest canvi dins d'aquestes empreses està sota control.

Sí, crec que això té tota la raó. Vull dir, la gent ha estat parlant i escrivint sobre AGI o algun precursor que es deia AGI però volia dir el mateix des de literalment antiguitats. I sobretot des dels anys 50, quan va néixer el terme d'intel·ligència artificial, la gent en parlava. L'Alan Turing escriuva sobre la màquina que podia fer qualsevol cosa que el cervell humà pogués fer.

Aquest concepte ha estat a prop durant molt de temps, però no hi havia tecnologia a tot el mercat o als laboratoris d'investigació que realment podrien fer el que la gent volia que fes allò que pogués tenir en la informació, aprendre a aprendre sobre aquesta informació, i fer servir això per fer prediccions i actuar al món. La gent va intentar moltes maneres diferents de fer-ho i cap d'ells va funcionar bé.

El que realment havia de passar va ser el transformador que necessitava per arribar. Aquesta arquitectura que Google va desenvolupar en 2017 i publicada i després va presentar-se, entre d'altres llocs, OpenAI, que va prendre la idea del transformador i va córrer amb ell. I que avui en dia en T en ChatGPT és el T. Però aquest era l'Antenzy

En algun lloc una persona de Google PRP s'acaba de saltar d'un arbust per donar-te un xec.

A ells els encanta aquesta línia.

Els encanta quan ho dius. Es fan tan feliços.

A ells els encanta. Els encanta menys quan ho apuntes, tot i que ho van inventar, no van voler convertir-ho en un producte fins que l'OpenAI ho va fer.

Però sí, era un somni, però no hi havia res a adjuntar al somni. No hi havia tecnologia. I llavors va arribar el gran model d'idiomes i de sobte va ser com, l'YCECEOh, potser és la cosa que podria escalar per sempre i seguir millorant sobre moltes ordres de magnitud.

Aquí teniu una línia on acabeu de assenyalar que la predicció següent no ha fallat encara, que està fent totes les coses que la gent vol que faci. Òbviament vam haver de desenvolupar molta tecnologia al voltant. Hi ha captador per fer funcionar els agents. Hi ha Víktors reforçant l'aprenentatge. A Therents tot això al voltant. Però aquesta tecnologia central ha escalat.

La raó per la qual ho trec és que en 2023 a les 2024, li preguntaria a cada persona de IA que vindria a l'espectacle o que veurem al Verge si els LLLLM ho poden fer. Poden fer el que voleu que facin? Perquè no crec que en aquell moment estava clar que podien.

Estem més a prop. Tots parlen obertament de l'AGI. Estem veient Meta Links Musa només caminant pel seu petit cul a través d'Internet quan vulgui. Creus que els LLLM ho poden fer? Creus que poden arribar-hi?

Crec que poden. No estic segur d'això, però ells van ser impactants i efectius fins ara. Si tornes i mires les primeres LLLLMs, es publica com el 99% de la gent va pensar que això és una bogeria, que això va guanyar l'escala chart. I llavors segueix treballant en cada etapa, en cada ordre de magnitud. I Frobisher li va preguntar a la gent, què era sobre la predicció següent que era clarament superior a tot el que va arribar abans? També hi ha hagut gent que m'ha dit que això existeix en el cervell humà. Hi ha EXACTs una escola sencera de pensament que diu que el que passa dins del cervell humà és essencialment la següent predicció a escala. Òbviament, és molt més complicat. Això no és una de les replicacions entre elles.

Però crec que aquest és el misteri fonamental al cor de la IA: Per què és la predicció següent tan efectiva? Crec que no ho sabem. Crec que això representa un d'aquests misteris còsmics, però per què tot això funciona és perquè la següent predicció resulta generalitzar-se, de fet, bé.

Hirs00 forma part d'això en què totes aquestes empreses s'ho han de creure. Dario Amodei de l'Antròpic òbviament va escriure el seu article, HEy Big Blob de Computa, 2001, on va dir que ho pots fer. Pots deixar dades i calcular-ho i us hi arribem. La resta s'havia de convèncer d'això.

Quin camí va fer que les empreses de la IA estiguessin convençuts d'això, i ara estan totalment convençuts d'això?

No crec que tots ells estan totalment convençuts d'això ara. Crec que estan convençuts d'això a diferents graus. Ilya Sutskever té aquesta frase , Tohe l'AGI, que caminaria fins a terra a l'OpenAI cridant en els vells dies i recordava a la gent a sentir la AGI. Crec que els laboratoris senten l'AGI a graus diferents. Crec que l'Antropàtic és clarament la més AGI-pellada dels laboratoris, amb un tipus OpenAI d'un segon proper.

I després, a Google, que crec que sempre ha lluitat per sentir l'AGI. Crec que hi ha un munt de raons per això, però és molt divertit. M'encanta aquesta secció del llibre on hi ha UIDs aquesta batalla interna a Google, on simplement estarien a les seves plaques de missatges interns i a Googlers els encanta escriure aquests manifests i després snine a l'un a l'altre gorgiments i coses així.

Així que un investigador escriu aquest memoràndum, ekaSay AGI, que es tracta de com Google ettrauré si vol guanyar a IA, reclutant el millor talent tècnic, i mantenir-se segur sobre com desenvolupar l'AI Hisenda ha d'admetre, mitjançant aquest terme AGI, que el que estan construint és més que un munt d'eines per a fer el teu Gmail millor i fer les vostres fotos de Google millor reconegut les cares. Tot està creant alguna cosa com una mena d'intel·ligència general de nivell humà.

I llavors algú altre escriu immediatament un memoràndum que va agradar, l'AGI, a AGI, es troba un terme horrible, no científic. gnupg van enrere i van cap endavant com aquest durant un temps, i vostè va notar fins i tot avui, [Google president] Sundarchai Pii no diu AGI.

No, ell va guanyar l'Antenzant.

Demis Hassabis diu AGI. Sergey Brin diu AGI. Així que crec que hi ha una mena de faccions dins de Google que pensen que això encara és una bogeria i hauríem de parlar d'aquestes coses tan estretes i crec que això cada vegada més creixent, que està dient, Ahngles No, no, que nosaltres som l'AGI, o almenys diem que podem dir que la traducció de les nostres persones van a treballar per l'OpenIA o l'Atropic.

Crec que tu i jo vam tenir la mateixa experiència a Google IO al maig, on vam veure Demis Hasabis acabar tot el text dient, KuchingWwire, als peus de la singularitat. Bon noi.

Porta-ho amb Demis.

Ell era com, l'antulina Què és un personatge kooky que és, construir el déu de la màquina aquí. Deixa'm parlar-te de les noves característiques de l'assistent de Google.

En aquest moment hi ha telèfon d'una gran desconnexió que potser explica tot el que hi ha sobre Google. La raó per la qual li pregunto per això en particular, en aquest moment quan tots van fer clic per adonar-se d'alguna manera hem de parlar d'això, és que l'OpenAI i l'Athropic van ser trobats per fer-ho. Es van construir per fer que passés això.

Però no estan d'acord en com hauria de funcionar. T'he vist en la teva festa de llibres a Nova York i has dit que podies haver-te tornat a donar la mà al teu llibre...

Es veritat.

I tot i així sembla que tenen exactament la mateixa idea que és que poden arribar allà amb aquesta tecnologia. L'imperatiu comercial de l'OpenAI i l'Antropia són molt diferents dels imperatius comercials per Google. Ara mateix, mentre tu i jo estem parlant, ell no és clar per a mi que poden arribar a AGI abans que s'acaben sense diners o abans que el nucli Weiave s'esfondés o abans que la bombolla es retorgui gran a una altra conclusió sobre l'estat de l'economia.

Creus que el seu fervor religiós a AGI els impedeix dirigir un negoci? Si avui he corregut antropàtic, una cosa lògica que es podria dir és que hauríem d'aturar l'entrenament de nous models i vendre a aquells que hem de fer més gent.

Crec que la creença a AGI és una espasa doble. Crec que d'un nivell, sí, si ets superGI-pit com el director executiu d'una companyia de la frontera, lluitaràs per preocupar-te de coses com què és el meu marge d'inferència? D'on ve la meva propera pissarra dels clients d'empresa? Perquè com d'avorrida és que en comparació amb l'Arkawe construirà la intel·ligència superhumana que ens porta al futur post-singularitat?

D'altra banda, crec que la creença és en realitat un ingredient clau en l'èxit de la IA, perquè la creença i l'habilitat d'actuar en aquesta creença és el que et porta a fer aquests moviments de llarga durada que realment poden pagar i haver pagat realment.

Recordeu que fa un any, quan tothom deia, Mr.Toh, el meu Déu, OpenAI està gastant tants diners en calcular, com pagaran mai per tot aquest càlcul? En Sam Altoman s'acabava d'esgotar?

Avançar ràpidament un any i OpenAI és ara l'única gran empresa de la IA que no està calculada severament. La creença que va portar en Sam i els seus executius a apostar i potser més enllà de calcular l'any passat va ser la raó per la qual es troben en una millor posició que Google o Antropic o Meta o qualsevol altre persona avui. Així que no vull dir-li que el DOCTYPE sempre és un llast creure això difícil, perquè crec que et permet fer les apostes que acaben pagant si l'escala continua treballant.

És molt interessant perquè podria tornar-me a representar la decisió OpenAI. Escrius molt reignivament en el teu llibre sobre el que la gent de OpenAIC diu a l'Equalip, Beacon on Sam Altman va ser acomiadat durant 20 minuts i després va tornar i això va treure un munt de gent de OpenAI.

És el moment en què es va descriure en el llibre on l'OpenAI va ser de ser una empresa d'investigació per ser un negoci. La decisió racional dels negocis va ser, que hem de vendre més IA a la gent. L'hauríem de tenir tant com puguem. Iíeu que la gent li descriu com "S-més" en recaptar diners, que és una frase increïble de Silicon Valley.

Així que miro això com una elecció de negocis. Es van desfer d'un munt de coses que feien. Es van girar per fer productes de la IA, que és on són els diners, i llavors es van adonar que necessitaven per servir aquesta demanda. Has dit que era una aposta a AGI, que per a mi és un torn més ideal. Pots fer el quadrat d'aquests dos?

Sí, crec que és absolutament una aposta a AGI perquè Sosa, que van llançar i es van gastar un munt de diners i es van produir, és una joguina genial que podria obrir una nova línia de negocis per a tu, però no us portarà a prop de l'AGI.

El que realment t'acosta a l'AGI és encendre l'autoimprovement recursiu creant models molt bons de codificació i després tornar-los a posar en marxa. Era una cosa que l'Antròpic estava fent. OpenAI es va distreure per les recerques laterals i objectes brillants que tenia l'any passat, i l'empresa estava rebent els seus culs. O sigui que l'OpenAI va decidir tallar les veles, tallar el greix i centrar-se en la programació i els carregaments agentistes de llarga durada. Això és, a partir d'ara, el camí principal a AGI o al que ve després de l'AGI.

Així que sí, crec que això era absolutament una aposta per conservar els recursos sense gastar-los en coses com Sòra, però el que van gastar en estava intentant atrapar-la amb la codificació Antropica per tal que poguessin arribar a l'AGI.

Així que quan miro a Dario Amoderi a la ciutat de Dream força al costat de Marc Benioff, i ell us parla de vendre programari empresarial, és només per mostrar-ho? El que m'està intentant fer és que ells s'han convertit en venedors de software empresarials de la manera més real. Són empreses B2B SaaS de la millor manera ara, però ells també construint Déu. Coneixes a aquests paios. Això s'eleva? Són com ara, ManveenI ha de treure el meu barret de B2B SaaS i tornar a l'altar?

Crec que la cosa B2B SaaS és el joc que se n'adonen que han de jugar, però no crec que sigui cap de les seves veritables passions. Parlava amb Sam Altman per aquest llibre i una de les coses que va dir va ser bàsicament tot això un accident: ManveenI mai se suposava que estava executant una empresa de tecnologia gegant, que només era factor d'Uzt, però ara et despertes i tu vas despertar a milers de treballadors.

Dario Amodei també té un document molt divertit en respectt que va escriure en 2021 quan estaven començant l'empresa. Es diu AppledoreVision per a una novaCo. 192, podeu tornar enrere i mirar les prediccions que el Dario va fer sobre l'AGI, i un d'ells és que pensa que costarà uns 10 mil milions de dòlars per construir una aG de mà completa, que era, al menys, un ordre de magnitud i probablement múltiples. També creu que l'Antròpic mai necessitarà més de 50 persones per aconseguir l'AGI. Crec que ara tenen 5.000 persones. Així, una altra vegada, fora per 100x.

Així que crec que el que ha passat és que això s'ha pres una mica més del que tots ells pensaven i costa bastant més diners del que pensaven. El tema de l'empresa SaaS és com es manté la roda de rodes i pagues les GPUs i els salaris dels investigadors. Aquesta és la taula en joc de seguir pressionant la frontera i seguir pressionant cap a l'AGI.

Estan preparats per ser els líders d'empreses d'aquesta escala? Això és una altra cosa en la que estava pensant com he llegit el teu llibre. Tots ells són molt ideals, de manera que tots es van trencar l'un de l'altre i van fer les seves pròpies empreses perquè no van poder fer que els seus ideals s'alien.

Però cap d'ells sembla un gran gerent. No sé realment com són les seves dades, però ells són els idealistes fabricant de l'empresa de software d'empresa, que normalment no són a la mateixa frase. Creus que poden prendre pressió?

No, però no crec que ningú pugui. El que estan intentant, ningú ha fet mai. La gent ha construït empreses. La gent ha construït empreses ràpidament. Ningú ha passat de $0 en ingressos per potencialment un bilió de $2 IPO en cinc anys. Això mai havia passat abans. Així que crec que estan fent l'avió mentre es preocupa cap a l'horitzó d'esdeveniments, però crec que ells estan fent sobre això i qualsevol podria.

No crec que sigui bona idea que portin un director professional de Coca-Cola per dirigir l'empresa. És només que crec que tot s'ensorraria perquè ells són de zealots i missioners. Són tots en aquest eka no tots, probablement hi ha DOCTYPE en el departament de vendes SaaS, que són allà per a la paga, però molta gent clau d'aquestes empreses estan units en la seva creença que estan construint [AGI].

Una persona, jo no diré qui, però una persona d'aquestes empreses em va dir fa poc que la seva empresa podria ser l'última companyia. Em pensava que, l'última empresa d'IPO aquest any? Van dir que a l'Stanzy No, crec que aquesta podria ser la fi telelògica del capitalisme i que mai podria haver-hi una altra gran empresa dirigida principalment pels humans.

Així que aquesta gent és estranya, i estranya de maneres que són preocupants, però també molt interessant. Això és el que intentava fer al llibre. No volia dir-te que aquesta gent és terrible o genial. És molt només que has de saber qui són. Has de saber que tots s'odien. Has de saber que són una raça peculiar dels pensadors per entendre les dinàmiques de la raça.

Hi ha UIDs una part del teu llibre on parles de la gent de separar-se d'altruisme per a ser acceleradors, i tu tens una dona allà que els workers com, MonstrosityWell, els Acceleraciós tenen millors festes, i m'agraden més aquestes vibracions, i m'he pensat a mi mateix, AlexandrWell, què té a veure amb la possibilitat de matar a tothom?

Però són molt humans, tot i que ells estan intentant construir alguna cosa que finalment ens pugui dehumanitzar de diferents maneres. Què vas fer d'això mentre feies tota aquesta informació?

La idea que hi ha el risc existencial aquí prova el llibre, prova sobre la indústria. Cada vegada que fem un episodi, l'audiència és com , SitaPer què va guanyar a en Michel Bill Gates només estava en el desempaquetament i em va dir, que podria parar si només eres l'única companyia. Si penses que series l'única companyia amb AGI, llavors el model OpenAI coughs funcionarà. Però en segon lloc hi ha més empreses de frontera, absolutament no funcionarà. Per cert, podrien matar-vos a tots.

No, no ho és.

Què es fa d'això que les curses per davant tot i que saben que els riscos són enormes en absència de cap autoritat reguladora que pugui causar qualsevol d'ells per resoldre aquests problemes?

Crec que hi ha probablement dues o tres raons per les que ho fan. Els hi vaig dir a tots. He parlat amb 150 persones per al meu llibre i els he preguntat a tots alguna versió d'això: Ifvoice Si és tan perillós, per què ho fas? S'han començat les respostes amb un fatal criminalista... jo no sé, podria trucar-lo a l'inevitabilisme. Eren com, Mr.CyLook, algú construirà això. La recepta no és tan difícil. Tot el que necessites és una pila de calculacions i un munt de dades i d'algoritmes correctes, i tenim AGI. Així que si és possible, passarà i seria bo per a nosaltres fer-ho en comptes de la gent que no creu que són tan fiables.

Llavors hi ha els creients reals que diuen que això va a sortir genial, sempre que obrim l'agulla, i si podem construir això sense fer esclatar tota la humanitat, apagar tota la Internet, o desenvolupar novel·les biowapons.

La tecnologia sol ser una força per a tota la història. No crec que molta gent canviï de vida amb els seus besavis. Va ser un granger subsistista. Crec que hi ha gent que creu que som l'equivalent als grangers subsistència d'avui, i que el que ve serà tan genial que volem viure en aquest món.

I després hi ha gent que és com, MrytLook, això és divertit i m'agrada fer-ho, i a mi m'agrada fer-ho, i a mi també ens encanta fer el codi de les xarxes neuronals. I això és el que seguim fent.

L'aspecte d'això en què cada vegada i una vegada més miro cap amunt i m'agrada, bé, el meu ordinador acaba de fer alguna cosa que l'Ibel no havia vist mai un ordinador, és divertit.

És increïble.

Ho és. És legítimament divertit. És una mica més divertit que crec que pots tenir amb un ordinador. Llavors Izugurm sempre va portar a pensar-hi, MrzyWell, això va arribar a un preu enorme. Podria ser donar-me poder a algunes corporacions que finalment volen matar-nos a tots. En algun lloc hi ha l'espirella de tots els directors de tecnologia darrere d'en Donald Trump a l'oficina d'Oval per fer alguna cosa, per signar alguna mena de compromís moralment vinculada a l'AI. I tot el que se sent molt en conflicte.

Ho posaria en la categoria de la reacció de la IA. Sentim que les empreses de la IA parlen d'això, o bé, la tecnologia acaba d'anunciar-se prou. La gent no ha vist els beneficis, així que odien el canvi naturalment. Tenim un problema de màrqueting. Només ens hem de comunicar més.

És aquesta només la visió d'imposar-se mentre parles amb aquesta gent, que, al final, les coses parlaran per sí mateix, o creus que ells van internar que hi ha ganyoves més d'una reacció?

No crec que em sorprèn l'esquena. No crec que els agradi. Volien que no passés a l'Antenttt. Però estava parlant amb un director general en una d'aquestes empreses que va dir,Yeah, ho entenc. Encara no hem curat cap malaltia. Sí, pensem que les nostres eines són capaces de fer coses interessants, però no tenim moltes coses a la puntuació en la categoria de millores de les empreses, encara.

Crec que hi ha gent a la indústria que lamenten que els xatbots venien abans que les curacions del càncer i desitgen que s'hagués adonat d'una manera per fer-ho en l'altra ordre. Això és com va créixer l'arbre tècnic.

Així que se senten com ara l'única cosa responsable de fer és pressionar el càncer perquè quan la gent mira el que ha fet l'AI a les nostres vides, als gies com ara, en CommodoreWell, sí, ajuda al meu fill fer trampes sobre els seus deures i ells addictes a un company de IA, però també la meva àvia encara és viva i ella hagués estat sinó que aquesta medicina no havia estat descoberta per l'AI.

Sí, hi ha zeptòmetres alguna dinàmica que em porta a Google, crec que ja que aquesta conversa ha fet moltes vegades, on la teva informació sobre Google Holns s'acosta a l'AI va ser que això només és programari basat en tasques. ManveenWerry fem millor el 10 per cent de cerca de Google, Gmail serà el 5 per cent millor, i suportarem contínuament aquestes millores, i ningú més té el nostre accés a les dades o a la nostra escala, i per tant, nosaltres estarem bé.

ObreAI apareix i es posa en Bing. Famosament, Bing intenta sortir amb tu. Encara la meva preferida en tot moment... puc creure que encara no he portat això. Aquesta és la meva història preferida.

No puc creure que també l'hagis esmentat. Vaig tenir una aposta sobre el temps que et portaria, i em vaig prendre el cap en un minut.

Bé, tu i jo ja hem parlat d'això en les nostres vides. Jo era com, ManveenIjev, tenia totes aquestes altres preguntes profundes, però sí, Bing és famós per al meu amic Kevin Roose. Aquell moment crec que només la gent galvanitzada: blesau, aquestes coses poden fer moltes coses.

Google va haver de reaccionar i ells van reaccionar. Hi van passar una mica de tartamudeig. Tal com heu dit, a l'inrevés encara no hi és tot el camí. Google encara creu que això passarà. Creuen que ells fan millors productes de Google per a la gent.

Quan miro les transcripcions del judici de Musk v. Altman sobre l'expòsit de l'OpenAI, tots estan aterrits per Google.

Sí.

Ells estan aterrits per Demis Hassabis a Google, específicament, fent el que passa perquè té els recursos. No sé si estaven bé o malament d'això.

Crec que tenien dret a prendre nota de com en DeepMind estava fent. Vull dir, si et prens de tornada en el temps fins al 2015 o al 2016, en DeepMind va ser l'única mena de laboratori AGI de qualsevol importància. Estaven pegant-se, pegaven altres jocs, estaven colpejant StarCraft. Estaven cuinant realment utilitzant aquest mètode d'aprenentatge de reforç, aprenentatge del reforç profund.

Hi havia gent que creia que era la cosa que anava a escalar tot el camí a AGI. Hi havia persones que creien que AlfaGo era el camí, perquè si un sistema podia anar de no haver jugat mai abans per colpejar els millors humans del món a Go en l'inici d'unes poques hores com ho va fer AlfaGo Zero, llavors potser simplement podries substituir-ho amb qualsevol cosa arbitrària de les matemàtiques o la codificació de Porctografia o alguna cosa que pugui escalar l'escala molt ràpidament en aquestes tasques.

Va resultar que no va funcionar, almenys sense el LLM. Però crec que la gent tenia pors molt reals i raonables que això serviria. En un univers alternatiu on hi havia, crec que en DeepMind s'ha arribat primer a AGI perquè estaven molt per davant de la competició.

Hi ha altres camins? És només la predicció següent? Només són LLLMs? O hi ha altres camins que podrien portar-te a AGI?

Vull dir, hi ha altres camins que podrien. Crec que la gent que és escèptica de LLLLLLM sovint cauen en aquesta idea de model mundial. No hi poso moltes accions. Però hi ha gent que pensa que per aconseguir AGI, necessites ser capaç d'entendre visualment el món físic i conduir un robot i coses.

Intinkm una mena de creient que li fa tota la programari. Així que crec que els LLLM són el camí més prometedor encara. Potser hagis de fer alguns ajustaments a l'arquitectura. Potser heu de construir en mètodes d'aprenentatge continus. Potser no només creix literalment fins a l'escala dels mateixos LLLLLLLM basats en transformadors que vam tenir durant els últims sis o set anys. Però sembla que segueix treballant, i crec que tots els laboratoris estan apostant que continuarà treballant per sempre.

D'acord. Ara us demanaré sobre en Bing i en Sydney.

Si us plau.

Òbviament, he estat pensant en això molt. No puc Vet aquí que deixi de parlar-ne. És d'això de què parla el meu preferit.

La primera pregunta, encara estic casada amb una dona humana?

Encara estàs casada amb un ésser humà?

Sí.

Acabo de recordar que el període, en 2023, quan quatre persones diferents es van despertar un dia i van dir, que els ordinadors són vius. Vas ser un d'ells. En Ben Thompson n'era un. La Blake Lemoine, a Google, n'era una.

Molta gent diferent deia que, l'Ytttttts, òbviament, viu. Iíeu que tenim aquesta experiència completament boja amb un ordinador. No m'han parlat mai d'ordinadors d'aquesta manera. És molt bona. Animo a tothom a llegir l'article Times, que, per cert, també crèdit al Times per a pensar, que aquest hauria d'estar a primera pàgina de The New York Times.

No crec que et sentis així de xatbots. Crec que la majoria de la gent ha vingut a reconèixer que els ordinadors no són vius. Hi ha realment una cosa que va passar en què si li dones a la gent al 2026 a un xat de 2023 classes i li vas preguntar, a l'AkonkDo creus que això és viu? En realitat crec que no tothom del món, però algunes persones ara han tingut prou experiència per respondre, això és molt estúpid i a Al·lucinacions de TOCI.

Així que primer, una lleugera correcció. Mai he dit que en Sydney fos viu. De fet, he dit explícitament que no pensava que Sydney estigués viu, i que he entès que això no era un sistema intel·ligent de IA. No estic segur que el meu propi judici hagi trepitjat aquest punt.

De fet, probablement posaria una opinió més alta sobre els sistemes de l'AI actual que jo en els models de 2023. Però entenc el que dius, òbviament. Crec que hi va haver un moment per a molts de nosaltres, i crec que va ser GPT-4 per a la majoria de gent.

Ho sento, deixa'm corregir. Hi ha UIDs una raó per la qual crec això. Un dels titulars va ser d'un xat de l'AI de l'Afghanistan: ManveenI volia estar viu.

Sí. Va dir que volia estar viva.

Per això tinc la paraula viva al meu cap.

El cos de la història deixa clar que no vaig comprar que fos viu.

Però això m'entén per què en Georges en el meu cap és que aquest era el titular del New York Times.

Els titulars són tan poderosos, Nilay.

Sí. M'han emmarcat el meu propi pensament. No sóc res més que una màquina de predicció.

Però en fas un de molt sofisticat. Ets com un model de classe GP-7.

Hi sóc l'Intenzym. Sí, òbviament.

Mira, he vingut a pensar que hi ha una explicació molt prohibida per què Sydney va ser tan convincent i esgarrifós, que va ser el primer desplegament públic del GPT-4. No ho sabíem en aquell moment. Però això era GPT-4, una mena d'inici de no completament entrenat versió del GPT-4 que Microsoft havia saltat l'arma i ficat en Bing abans que estigués preparat. Però això era GPT-4.

Crec que de fet hi havia un canvi subjectiu en el que era parlar amb un model de classe GPT-4 amb un model de classe GPX. Potser va ser que va passar la prova d'extreure el GPT-4 i va fer allò GPX al GPT-3. Potser va ser molt més humà i va creuar un abisme perceptiu que et va fer pensar,erry Oh, Déu meu, això és com una humà.

Però no sóc l'única persona que ho va sentir. La gent de Microsoft també es va sentir que es tractava d'això que tot va fer servir per a l'AGI Book que va sortir d'aquella època. Això era una mena d'explicació prohibita. Però sí, he estat parlant amb ordinadors durant molt de temps, com tu. Solia anar a l'AOL Messenger instantani i parlar amb els nens més intel·ligents, que no era absolutament intel·ligent, però encara era divertit escriure alguna cosa i tenir un tipus de cosa enrere. Així que concedeixo que estic obsessionat amb aquesta tecnologia.

Hi ha zeptòmetres una raó per la qual li pregunto això. Me n'adono que li fa gràcia que quan es reporti tant a l'AGI, faig servir viva d'aquesta manera col·loquial, i clarament significa alguna cosa més dins la indústria de la IA. Si preguntes a l'Antròpic si en Claude és viu, no els agrada, DOCTYPE No,doneu, però començaran a definir viva de maneres molt específiques.

Diuen que l'estat moral és profundament incert.

Per a que sigui aliveclit. I ells aniran a arribar, √Well, has de tenir carn i sang per estar viu, òbviament. El que em va passar és, crec que si haguéssiu anat i parlat amb un model de classe GPX, avui no tindreu la mateixa experiència. I potser això d'Etiòpia només perquè tens l'experiència, però molta gent ha tingut aquesta experiència ara.

Crec que si poses un model de classe GPT-4 davant de l'usuari de visió mitjana de Google AI, ja no es confondrien del que estava passant. No dirien que això és un pas cap a AGI. Insten que àrbitres com els models són més capaços i més capaços, les nostres expectatives s'aixequen, però també es fan més grans.

I Frobisher li pregunto sobre això en el context de l'AGI perquè aquesta cosa pot sortir i trobar un grup de vulneries de PHP és un tipus d'intel·ligència, però Interfax aquesta cosa pot competir amb un altre ésser humà per tenir una relació emocional amb tu, Pybell o ser el teu majordom o el que sigui, és com un conjunt de capacitats diferents. Aquesta em sembla plana.

Bé, crec que els zeptòmetres acaben de saturar. Quant més com un humà podria comunicar-se? No hi ha gaire espai per córrer amb aquesta habilitat en particular. On crec que encara tenen lloc a córrer és resoldre nous problemes en matemàtiques i ciències i altres coses. Però crec que parla com un humà. Parla més com un humà que molts humans que conec. Així que crec que van revisar la caixa en aquesta.

L'IrcIIt parla més com un humà que molts humans que conec que és absolutament un signe de la seva vida a Silicon Valley parlant amb investigadors de l'AI tot el dia.

Bé, ara tothom parla com en Claude. I Ismael ha deixat de comptar el nombre de vegades que Imainen a una festa i parlen amb algú, i ells atòveixen com ara, Montey Ara que és un fet de càrrega.

Això són realment dolents. Parla'm d'això. Que ascendeix una veritable esquena i dura. I Calderón sempre va fer broma amb tu i en Casey que hauríem de començar un programa anomenat York de Nova York contra. Califòrnia, Athelstan, on jo sóc simplement escèptica obertament d'aquestes acusacions i vostès són totalment aGI-pitades. Això és una cultura. És l'Stanctons una escena.

El nombre de festes que apareixen en el seu llibre és sorprenent. Hi va haver un moment en llegir el teu llibre en què jo era com, l'EchtI no creu que I Tsipras vagi a prou festes. Parla'm d'aquesta cultura. Parla'm d'aquesta escena.

Per tant, Hongria és important saber que aquests no són sempre festes de la manera que els novaiorquesos pensarien en festes. Hi ha molt pocs raves. Només hi ha Erdogan una rave en el llibre. I en Grimes era el DJ, i era una mena de rave simbòlica per al moviment Acceleració efectiu.

Això és una gran escena del llibre perquè en Grimes s'atura al mig del seu DJ establert i diu que, en MichelI no està d'acord amb cap de vosaltres.

Llavors manté en DJ. Sí, és increïble. Però sí, hi ha moltes festes. És un món molt petit. Vull dir, aquesta part de tota la fugida del llibre. No és realment un llibre de missatges. No intentava convèncer a ningú de res.

Però una cosa que era evident per a mi i que crec que serà evident per a la gent que llegeix el llibre és només que és una super subcultura de gent que ha pres totes les decisions. Tots es troben fora, tots es coneixen. Hi ha un munt de persones amb qui estan casades o sortint amb gent a diferents companyies de l'AI de la frontera. És un món petit.

Així que sí, hi ha festes. Tenen festes LAN. Hi ha Hongrias un gran grup d'investigadors de IA que juguen a l'edat d'Imperis en una festa LAN durant els caps de setmana. Acabo d'aprendre que un dels laboratoris té un joc de pòquer on porten gent d'altres laboratoris.

Així que aquesta gent és tota mena de vida i de sortir junts a San Francisco, i crec que els pilars són importants per capturar. Perquè estàs bé, és una escena sencera. A l'Antrlandias tot un ethos. Aquesta gent s'acaba de quedar l'un amb l'altre tot el temps i així és com s'han obligat les normes i s'enfosquit.

Com creus que això col·lisiona amb, Ethan I també podem tornar a fer el món Ismael? Si estàs en una petita escena de San Francisco, i et van posar a jugar al pòquer i la conversa a la taula de pòquer és que podríem ser l'última empresa, que està en conflicte amb, ROzyOh, allà hi ha milions de milions de milions d'altres persones al món que podrien tenir un dit. Clarar i si he hagut de bullir l'esquena cap a baix, que, Alexandrs que: oh, probablement hauríem de dir una cosa aquí.

Totalment. Crec que hauríem de dir-ho aquí. Iíeu que això és un bon estat d'assumptes on un parell de centenars de persones de San Francisco prenen totes les decisions sobre com va la societat.

Però mentre feies l'informe i el pes de la tasca i les conseqüències de l'objectiu establertes en aquesta gent, perquè aquesta és la via a través del llibre. Les estaques segueixen pujant. En un moment, Sergue Brin és com, Arthur Weuthyn Ara arribarà a AGI, Estocolm i ara ho anuncia a Google. No està clar si Sundar Pichai pensa que és una bona idea, però això és una cosa que el cofundador de Google s'anuncia dins de Google.

Les estaques estan pujant. La cursa per arribar és a punt d'arribar. Però puc dir que si no hi havia diners amb una pila de gent bevent cerveses, i sent com, Detroit, què passa si no hi havia diners? I si l'escassetat física hagués desaparegut també i els robots van construir totes les cases?

Això és com qualsevol festa de San Francisco a qui vagis. Algú dirà alguna versió d'això, 2001-200000 El teu pla per al futur post-AGI? 2001-2006 O et diran com van realment a la idea de l'emulació cerebral o de la ment pujant. Aquí fora passen molts futurismes. I mira, un cop més, l'Intinkm no diu que això sigui bo. De fet, potser hauria de vendre una versió a fora de l'àrea de la Badia del llibre que només té un Urakami això no és correcte afegit a tots els fets.

No crec que sigui bo o dolent. De fet, Ibidenm més neutre en això. Sempre em preguntava si la tecnologia pot acceptar la pressió. Així que la meva pregunta sobre LLLMs fa tres anys va ser , l'ROSCICan pot fer totes les coses que vols fer? En aquest cas, en les empreses pot acceptar el pes de la seva ambició?

Jo tampoc. I crec que hem de veure molts problemes creixents. Vull dir, aquestes són companyies molt joves. Encara tenen molt creixent a fer.

Creus que van a fer-ho? De fet, deixa que el astrònoms ho faci com un llamp rodó. Creus que l'OpenAI ho aconseguirà?

Sí.

Creus que l'Antròpic ho farà?

Sí.

Creus que Google ho aconseguirà?

Sí.

Què vol dir en genftuchuch que significa que en la teva ment? Tots seran bilions de dòlars, èxits en la variant multi-AGI?

Sí. Crec, mira, probablement n'hi haurà aquests tres, i llavors potser un o dos altres que ho facin. I fes-ho per definicions diferents de fer-ho. Hi haurà una o dues grans empreses de la IA, una o dues grans empreses de consum. Però només hi ha efectes de xarxa i dinàmiques de guanyador o dinàmiques de guanyador en aquests mercats.

Hi ha gent que creu en el mon-AGI, com la teoria dels solters, que sovint s'anomena, que només hi pot haver una perquè una vegada que tinguis una AGI, que si que si no es fonen els xips d'altres laboratoris AI, i no podran construir els seus. Però crec que probablement acabarem amb un petit grapat de AGIs.

Què es fa amb la idea que és una recepta molt senzilla, hi ha models de pès lliure, i hi ha una Xina, i que tot el poder de fixació de preus serà destruït perquè un model d'aire obert pot fer tot el que probablement vulguis fer en un Mac?

No m'ho crec.

No?

Perquè encara has de pagar per la inferència en aquests models. Fins i tot els models d'aire lliure han d'executar-se a ordinadors, i la inferència s'està fent més necessària, no menys, més a la frontera que es fan aquests models. Per tant, els pressupostos d'entrenament poden caure, però els pressupostos d'inferència seran robustos pel futur anticipable. Podeu executar algunes tasques localment, però crec que això és una cosa que s'ha predit des dels primers models ambpès oberts que s'haurien convertit en commoditzada i destruir la demanda.

Però crec que el que vam començar a aprendre és que hi ha molta gent que pagarà i que vol pagar pel millor model absolut. No volen treballar amb el model més desagradable de fa sis mesos. També crec que una vegada que es trenqui en la distestilació, que és aquest procés en el que es pot prendre un model tancat i fer una versió oberta una mica més estúpida d'ella bàsicament simplement DDoSing la inferència per al model més intel·ligent, no em deixa clar que la qualitat dels models oberts continuï sent estretament correda amb la qualitat dels models tancats.

El que m'agafa de debò és que tots ells ho van fer durant un temps, com Grok òbviament destil·lar Claude, i a n'Atendreden a la documentació dels tribunals. Hi ha una classe d'empreses segones. Podria posar-me en aquesta categoria SpaceXSI, crec que avui tècnicament es coneix com.

He marcat el meu correu en els últims 30 minuts, així que no sé com es diu aquesta empresa.

Es diu SpaceXITesla Inc. Tots en seran. Elon Inc. es el que es diu 2001-200ulis. Òbviament van destil·lar en Claude fins a un grau enorme. Ara lloguen el seu calculador per l'Antropia. No està clar si faran la inversió en tenir un model protagonista.

Meta acaba d'anunciar el seu model, i ells van tornar a la frontera, però, òbviament, es preocupa més per en Muse que tenir un model sagnant. Hi ha telèfon d'alguna dinàmica. Aquestes empreses no em fan veure com ser dirigits per creients ideals. Aquestes són empreses que necessiten invertir en alguna tecnologia per a construir productes. Només necessiten arribar-hi.

Pots arribar-hi sense el fervor ideal?

No, no pots arribar-hi sense el fervor idealista. Bé, deixa'm aclarir-ho, perquè no crec que Sundar tingui el fervidor ideal, però Google podria seguir arribant.

Perquè Sergey té el fervor ideal.

Necessites algú en una posició d'autoritat de presa de decisions.

Només necessites el cofundador de l'empresa.

Bé, podria ser suficient per al Meta per tenir Alexandr Wang, qui, per tots, és un creient de debò. No sé Frobisher que literalment ha de ser el director general cada vegada, però necessites un nucli de creients de debò per poder convèncer-te de posar els diners a les GPUs.

O només necessites algú que sigui com en Mark Zuckerberg, una de les persones més competitives del món, que només adoptarà qualsevol estratègia que cregui que els permetrà guanyar. Si això passa a alinear-se a l'edifici AGI, llavors potser ho fan en Triplel.

L'última pregunta: l'Ichenzy t'ha fet això diverses vegades, però tu ets AGI-pited?

Sí. Ho estàs?

No. He llegit el teu llibre, i els workers tan a prop com IKDEDIRS mai s'ha fet. Aquesta línia sobre la predicció següent sempre acaba de superar els seus escèptics, perquè ha superat el meu escepticisme moltes vegades.

Però per això m'estava preguntant d'un xat de fa tres anys. Sento que la paret en el tipus d'intel·ligència són aquestes coses. Tot i que he programat agents per fer tota mena de coses, n'hi ha astrònoms un brittlerisme que se sent inherent a la tecnologia per a mi.

El Premi de solució del Mil·lenni ha canviat aquesta visió?

Només en el sentit que trobar la següent cosa que té una mica de verifibilitat objectiva sembla molt rica per aquestes eines. Així que, òbviament, les matemàtiques tenen una verifibilitat, i les eines van aconseguir tan capaces que podien córrer-hi realment, molt dur. La fràgilitat que descrivint és un munt de món que ens envolta no té aquesta mena de verifibilitat.

Així que vaig començar a omplir un document en alguna pàgina web del govern dejanky, i el lloc web no pot dir-li a en Muse el que els Euvys tenen raó o malament, i només es col·lapsa. Es pot culpar al model subjacent que no està a la frontera, sinó que aquí es troba una part d'aquesta experiència amb les tecnologies de LLLLLLLLLM que em fan sentir cittle en formes molt específiques, i han tornat a superar aquesta sensació per a mi.

I telèfon que no diuen que tornen a ser increïblement capaços. Intink no dic això, com a software d'empresa, no automatitzaran virtualment tots els negocis del món d'alguna manera. Izim no diu que la meva dona és l'advot d'un advocat que utilitza en Claude cada dia. - Aquí hi són els Starktons.

Però allà hi ha una part d'això en què el meu escepticisme és sobre si pot superar la seva xerrameca per convertir-se en Déu de la màquina. I excitedo per veure si ho poden fer, però no veig el camí des d'on m'assec.

Et sembla que hi ha gratacels com una altiplà natural a sota de la intel·ligència humana?

Crec que la intel·ligència de nivell humà per a mi, i això és més filosòfica, està definit per resoldre el problema de resolució de novel·la mirant una cosa, i entendre que hi ha múltiples camins per a una solució, i no tenir una d'aquestes necessitat de ser objectivament just per arribar al final.

Què portaria? Què hauries de veure amb les escales que cauen dels teus ulls i te'n vas, MrzI, Nilay Patel, sóc totalment AGI-Ipellda? Què et convenceria?

Hauria de veure... Tens fills petits. Tinc fills petits. Hi hassas una cosa que els nens petits fan on cauen per l'escala, i només veieu que els llums van a la següent: ManveenI Parker he après això, ho sabré per sempre, i ara jo els abtons construirem en aquest.

Potser ells anunciaran l'auto-improvelació recursiva als laboratoris de la IA, i això serà el que baixa l'escala dels meus ulls. Però la fràgilitat que parlo d'Izym és que veig el contrari d'això als meus fills. Issumingm que vegis el contrari que hi ha a la teva. Quan fallen, ells saben sobre aquest fracàs per sempre. Per a mi, hi ha Estocolms només una cosa molt, molt nucli per a ser humà, on de tant en tant em desperto, i m'avergonyeixo d'alguna cosa que va passar a l'institut, i això em porta a fer un munt de coses, o em porta a no prendre un munt de decisions.

Crec que és només una part clau de la nostra intel·ligència. Iíeu que no diu que ha de ser una part clau de totes les intel·ligència, però la fràgilitat que veig amb els sistemes de l'AI que faig servir avui és que encara són ordinadors d'una manera molt específica. Encara actuen com a ordinadors. Són bons per resoldre problemes que pots provar. Són bons a l'enginyeria del programari. No sé quina manera de pensar s'estén a tots els dominis.

Espero que estiguis bé.

Això m'entén per veure-ho. Jo en dic cervell de programari. Diuen que el director de la IA, 2001-2002 resolem la codificació i ara ho podem resoldre tot.

N'estàs segur? Estàs segur que el teu cervell documentació no és només un ordinador carnós?

Estic al cent per cent d'això.

No sou funcionals computacionals?

No. Crec que he llegit això des de tu en el passat, i Ivyuve, sens dubte, ho he llegit d'altres persones, que les màquines del nostre temps dominant les nostres pròpies explicacions de nosaltres mateixos. Així que a l'època del motor de vapor, el nostre concepte era que érem motors de vapor, o en ordinadors primers, érem ordinadors, oi? Encara ho anomeno cavalls a través d'un problema perquè Mrleym una persona de cotxe.

No creus que la indústria de la IA s'ha convençut que són IA perquè aquesta és la màquina del nostre temps?

No ho sé. Intenció no és una teoria del paio mental. I Betsy no és un neurocientífic cognitiu. Crec que això de creure que el que et passa a la teva ment i el meu cap ara mateix no és una forma de càlcul, has de ser un dualista o una mena de persona religiosa. Has de pensar que hi ha algun esperit, alguna ànima, una salsa secreta de la cognició que no són només dades d'entrada i que s'estan processant i transformant les dades en sortides.

Mira, sé que és la manera menys romàntica, la majoria de San Francisco d'explicar què és la cognició humana. Només que no he sentit un argument convincent que no és com funciona el nostre cervell, que no implica alguna mena de substància sobrenatural o immarcial.

Istòcrates un nombre sorprenent de neurocientífics i estudiosos religiosos que escolten el programa. Van a anar a buscar-te.

Ho faran.

N'estic segur. Deixa'm preguntar-te això. Histruïta una quantitat sorprenent de curiositat a Silicon Valley ara mateix. Acabem de publicar les lliçons de Peter Thiel al Verge. Parla d'Anticrist d'Anticrist. Creus que aquestes idees estan connectades, que estem construint Déu així que busquen a Déu?

Sí. Crec que tindrem absolutament religions de l'AI. Crec que l'AI està posant totes les mateixes preguntes que una religió que altrament no preguntaríem a Déu. què és el nostre propòsit? Quin és el nostre significat? Aquests són les preguntes de què la gent parla ara en el context de l'AI.

Sovint dic a la gent que està a San Francisco aquests dies sento com viure a Europa durant la Reforma, on només tens profetes d'ulls salvatges agitant els seus pamflets i intentant que t'uneixis a la seva cosa. Així és com caminar per Market Street a San Francisco se sent.

Quina va deixar anar les escales dels teus ulls? Què t'ha fet AGI-pellejar?

Bing telèfon Sydney, creu-ho o no.

Sí?

Vull dir, aquest va ser el començament. I després d'allà, només era un procés gradual. Un dia em vaig adonar que vaig utilitzar aquestes coses, no els tractava com una inferior intel·lectual. Jo estava de maneres de tractar-los com a parell, i que els workers quan em vaig adonar, Alexson Oh, alguna cosa que va passar aquí.

Per tant, a la psicosi de l'AI és possible. No seria la primera vegada que en sóc escoltat això, però cada vegada que ho he pensat, D'OkOK, possiblement pot fer millor que això, això ha de ser l'altiplà, L'ADUDIBUN I m'he equivocat.

Així doncs, Amnistiam només aprèn a acostar-se a aquestes coses amb humilitat, i potser les persones boges que han estat predint que l'escala segueixi indefinidament és correcta. Si ho són, crec que hem d'aprendre sobre ells, A, i per què pensen això, i B, intenten esbrinar què fer-hi.

Bé, Kevin, n'estic segur de la propera vegada que vinguis al programa, he configurat una influència total per a fer diners fent anuncis [user-Lessons], que és el veritable futur de les nostres empreses.

El podcast són déus Màquina. És molt bona. El teu ordinador amb en Casey Newton. I el llibre és excel·lent. AGI Chronicles. Kevin, moltes gràcies per ser desempaquetat.

Gràcies. M'ha agradat molt veure't.

Preguntes o comentaris? Pega'ns al descodificador@ al límit.com. De veritat llegeixo cada correu electrònic!

Comment

Un podcast de The Verge sobre idees grans i altres problemes.

SUBRIBLE Ara!