OpenAI visar att AI kan ha ett inneboende styrningsproblem

Den strukturella störningen av OpenAI

Framtiden för OpenAI, vars ChatGPT utlöste en kapprustning inom artificiell intelligens, har blivit ännu grumligare. En majoritet av de anställda krävde styrelsens avgång efter att Sam Altman avsattes som vd på grund av frågor om hur snabbt tekniken ska kommersialiseras.

Konflikten belyser ytterligare den märkliga tillsynen av några av AI:s ledande företag, vilket kan påverka teknikens framtid. Och det finns tecken på att OpenAI:s styrelse kanske inte viker sig trots personalupproret.

Här är det senaste: Mer än 700 av OpenAI:s 770 anställda – inklusive Ilya Sutskever, chefsforskaren och styrelseledamoten som ursprungligen drev på för att Altman skulle avsättas – krävde styrelsens avgång. Altman försöker fortfarande återvända som vd och för samtal med företaget. Enligt The Information hade OpenAI:s styrelse kontaktat en toppkonkurrent, Anthropic, om en sammanslagning. Salesforces Marc Benioff försöker locka OpenAI-anställda med praktiska ekonomiska erbjudanden.

OpenAI:s dilemma: Kommentatorer har noterat företagets ovanliga, motsägelsefulla struktur. En ideell styrelse dedikerad till att hjälpa mänskligheten övervakar en vinstdrivande arm som stöds av Microsoft och riskkapitalföretag som Thrive Capital och Khosla Ventures.

Målet för hela företaget är att bygga artificiell allmän intelligens, mycket autonoma system som “överträffar människor i det mest ekonomiskt värdefulla arbetet” men “gynnar hela mänskligheten.” OpenAI:s kommersiella arm skapades för att stödja detta enormt dyra mål, men begränsas av gränser för vinster som går till investerare och inga ledningsrättigheter för investerare. På grund av detta har Microsoft, Thrive och andra lite direkt inflytande över hur företaget drivs.

Ironiskt nog var Altman inblandad i utvecklingen av detta system – och blev till sist offer för det.

Detta är inte den enda ovanliga företagsstrukturen i AI-branschen. Anthropic grundades av ett dussin före detta OpenAI-anställda som var oroade över sin tidigare arbetsgivares ras mot vinst och skapades som ett B Corp, eller ideellt företag, utformat för att balansera intressen hos ett brett spektrum av intressenter.

Det finns också en så kallad långsiktig förmånsstiftelse, som inkluderar AI-etiker och andra experter och som får välja majoriteten av företagets styrelseledamöter. (En av Anthropics styrelseplatser innehas dock av en investerare, även om detta kan ändras.)

Men OpenAI:s struktur kan leda till irreparabel konflikt. Investerare som Thrive driver fortfarande på att få Altman återinsatt som vd, liksom anställda och Sutskever.

Ändå noterade arbetstagarbrevet en hotande utveckling för detta läger: “De informerade också ledarteamet om att att förstöra företaget skulle vara “förenligt med uppdraget.” Detta är enligt uppgift trots utsikterna för en stämning från investerare fallet mot styrelsen , beslutsamheten för de återstående tre direktörerna har hårdnat – och om OpenAI misslyckas, så är det så.

Här är vad som händer

X stämmer en medievakthund för forskning om hans reklam. Elon Musks sociala nätverk gjorde gott på sitt hot och stämde Media Matters för gruppens påstående att företaget placerade annonser bredvid antisemitiskt innehåll. Resultaten, såväl som kontroverser över Musks senaste inlägg, fick stora annonsörer som Apple och IBM att sluta spendera på X; Företaget sa att Media Matters manipulerade sina algoritmer för att stödja sina resultat.

Amerikanska tillsynsmyndigheter sätter mer press på kryptojättar. Enligt Bloomberg kräver justitiedepartementet böter på 4 miljarder dollar från Binance, världens största kryptobörs, för att slutföra en utredning om anklagelser om penningtvätt och bedrägeri. Och SEC stämde Kraken, en konkurrent, för anklagelser om att de drev en oregistrerad värdepappersbörs.

Citigroup förbereder uppsägningar för hundratals chefer. Det efterlängtade draget, som tillkännagavs i måndags, är det senaste steget i en plan av Jane Fraser, bankens vd, för att förenkla Wall Street-jättens struktur och minska kostnaderna. Citi har redan sagt upp mer än 7 000 anställda eftersom de kämpar med en nedgång i avtalsslutandet och höga räntor.

Wall Street rustar sig för nedslående fastighetsdata. Försäljningen av befintliga bostäder, beräknad till klockan 10 på morgonen österländsk tid, förväntas ha sjunkit till den lägsta nivån på 13 år då stigande bolåneräntor pressar ut fler köpare – särskilt yngre bostadssökande – från marknaden.

Vad Microsoft fick av OpenAI-kaoset

OpenAI:s största supporter, Microsoft, är på uppgång, med aktier i teknikjätten som nådde en 22-månaders högsta på måndag.

Microsofts vd Satya Nadella har varit på en mediaturné sedan han anställde den nu avsatta OpenAI-chefen Sam Altman och Greg Brockman, en annan medgrundare, eftersom han försöker befästa sin position som ledare inom artificiell intelligens. En viktig diskussionspunkt: Hur företaget strukturerade sin affär med uppstarten och tillgången till dess immateriella rättigheter.

Altman och Brockman kommer att köra Microsofts AI-forskningslaboratorium. Efter att de flesta av OpenAI:s kvarvarande anställda hotade att sluta kunde Altman och Brockman så småningom rekrytera hundratals fler från sin tidigare arbetsgivare. Det skulle tillåta Microsoft att “i huvudsak återuppbygga OpenAI inom Microsoft utan att slösa mycket tid eller pengar”, rapporterar Karen Weise för The Times.

Vissa investerare vill att OpenAI-grundarna ska återvända, inklusive Thrive Capital, Khosla Ventures och Tiger Global Management för att skydda sina investeringar. (Vinod Khosla krävde också att OpenAI:s tillfälliga vd Emmett Shear avgår “innan han blir OpenAI:s enda anställde.”)

Även Nadella är öppen för möjligheten – med en stor varning. Microsoft hade inget officiellt att säga till om i styrelsen när Altman, företagets huvudkontakt, fick sparken. Nadella sa i podcasten “On With Kara Swisher” att om Altman och Brockman återvänder till OpenAI, “kommer vi att se till att styrningen är fixad så att vi har mer säkerhet och garantier så att vi inte får några överraskningar.”

Men Nadella insisterade på att de fortfarande har verktygen för att förnya sig. Microsoft har säkrat rättigheterna till OpenAI:s immateriella rättigheter samt kopior av källkoden för dess nyckelsystem och “vikterna” som styr systemets resultat efter att det tränats på data, säger personer som är bekanta med affären till The Times. Detta fungerar delvis som en försäkring för att företaget inte har någon kontroll över startupens styrelse.

Det finns ett stort undantag. Det här handlar om den heliga gralen i OpenAI:s arbete: att uppnå artificiell allmän intelligens, eller AGI. OpenAI definierar detta framsteg som “ett mycket autonomt system som överträffar människor i det mest ekonomiskt värdefulla arbetet.” För att uppfylla löftet om AGI krävs enorm datorkraft, just den sorten som Microsoft tillhandahåller. Varningen: AGI är tabu för Microsoft.

Trots det kan Microsofts IP-affär vara problematisk. Scott Syphax, en företagsstyrningsexpert, sa till DealBook att affären kan höja ögonbrynen bland tillsynsmyndigheter om den äventyrar den ideella organisationens skattebefriade status. Ett annat område som Syphax håller ett öga på: värderingen Microsoft gav OpenAI efter sin investering och om företaget förvärvade den immateriella egendomen till ett rimligt pris.

Några veteraner från Silicon Valleys startkrig berömde Microsofts manövrar. “Om du hade berättat för mig för 10 år sedan att en grupp av de smartaste ingenjörerna i landet skulle göra hotet ‘gör vad jag säger eller så jobbar jag på Microsoft’, skulle jag inte ha trott dig”, sa Bill Gurley General Partner på Benchmark och investerare i Grubhub, Uber och Zillow, Postat den Xoch lade till “Mycket beröm till Satya.”

Men andra Jag undrade vad Microsoft tänkte på Först, genom att göra en så stor satsning på OpenAI “utan några riktiga styrningskontroller.”

“Folk säger:” Ekonomer vet inte varför vi är olyckliga? Se bara på priserna!’ Vi tittar på priserna och frågar oss: Varför köper du så mycket prylar?”

— Betsey Stevensonen ekonom vid University of Michigan som arbetade i Obamas administration, om klyftan mellan amerikanernas uppfattning om ekonomin och deras faktiska erfarenheter.

Goldman omprövar en golfaffär

Goldmans första stora satsning på sportsponsring närmar sig sitt slut. Banken kommer inte att förnya sitt godkännandeavtal med golfaren Patrick Cantlay, DealBooks Lauren Hirsch är den första att rapportera.

Affären var en del av bankens konsumentoffensiv. Goldman tecknade ett treårigt avtal med Cantlay 2020 som bland annat kommer att bidra till att öka varumärkesmedvetenheten om Marcus, dess onlinebanktjänst för konsumenter. Cantlay, som för närvarande är femma i världen, bar en Marcus-logotyphatt vid turneringar och de två lagen skrev på ett nytt ettårskontrakt i början av 2023.

Men Goldman har dragit sig tillbaka från retail banking. Banken har sålt delar av Marcus och omstrukturerat verksamheten för att åter fokusera på sina traditionella investmentbank- och handelstjänster. “Vi utvärderar kontinuerligt företagets partnerskap och vid det här laget kommer vår logotyp inte längre att synas på hatten,” sa Tony Fratto, talesman för Goldman Sachs, till DealBook.

Cantlay och Goldman kommer fortfarande att ha några kopplingar. Han kan också dyka upp på bankens evenemang i framtiden, sa en person som är bekant med förhållandet till DealBook. Och både Cantlay och Mark Flaherty, en Goldman-direktör, sitter i styrelsen för PGA Tour, som försöker driva ett partnerskap med Saudiarabiens suveräna förmögenhetsfond och uppvakta nya investerare.

HASTIGHETSLÄSNING

Erbjudanden

politik

• Moderbolaget till Truth Social, Donald Trumps sociala nätverk, stämde 20 medieutgivare och anklagade dem för en “avsiktlig, illvillig och samordnad attack”. (Bloomberg)

• “Hur en crypto super PAC försöker driva framåt in i 2024” (Politico)

Det bästa av resten

• TGL, inomhusgolfligan som grundades av Tiger Woods och Rory McIlroy, försenade sin invigningssäsong med ett år efter att taket på arenan kollapsade. (CNBC)

Vi uppskattar din feedback! Vänligen maila dina tankar och förslag till dealbook@nytimes.com.