Подемот на вештачката интелигенција

[Ron Burgundy]

Оптимизизацијата не е проблем, може да има и помала ефикасност а драстично поголема процесирачка моќ. Тоа се гледа во области каде неговиот перформанс е неспоредливо подобар од човечкиот мозок (технички работи).

Но во области кој повеќе ги поврзуваме со свест и карактер, не е ни приближно блиску до нашето однесување. Со тоа заклучкот е дека ефикасноста не е проблем, туку неразбирањето на тие операции. Ако некогаш го сватат тоа и најдат начин да го реплицираат, океј, ама оваа технологија не ми делува на тоа.

Како и да е, нерално е да се мисли дека било кој од овие ликови сега се загрижија за ова.

штом може а хакира опасноста е реална. Замисли да ти исхакира берза, енергетски систем, контрола на летови, нуклеарни централи, нуклеарни ракети.

 

[Lokvan]

Стварно мислите дека капиталист ќе се засекира за опстанокот на светот и цивилизацијата? Повеќе дека им станува јасно дека немаат бизнис кејс за напумпаните валуации отколку дека увиделе дека човештвото ќе го снемало. Човештото ќе го снема од бумери како Трамп и Путин ама од други причини.

 

[Inglourious Basterd]

Како и да е, нерално е да се мисли дека било кој од овие ликови сега се загрижија за ова.

Да не се разбереме погрешно. Нив кур ги заболе за опасностите. Да бидам попрецизен - тие бубрег би дале да бидат човекот што измислил вештачка супер интелигенција.

Ама сфатија дека досегашниот експоненцијален раст е неприроден, дека нормално е да добие точка на стабилизација и линеарен раст и сега смислуваат изговор. Сигурно нема на сите инвеститори да им речат извинете ве лажевме.

 

[Syn]

Што поточно, повиков на Амодеј за успорување или инцидентот OpenAI-Hugging Face? Или двете?

Делува некако оркестрирано сево ова, прво имаш условно речено свиркач, па наеднаш вработен во Антропик се надоврзува на негов твит или така нешто беше, па потоа свиркачот оди на CNN, личи на хари потер патем, и на свиркачот од Антропик се надоврзува Дарио со негово интервју ако не се лажам пак на CNN каде многу избагува и кажа but и I едно 1800 пати, иако и тоа можно е да не е случајно, и на крај го имаш неговиот есеј на кој се надоврзаа сите.

Све ова делуваше многу неприродно и како и секогаш, нештата не се онака како што нам ни се претставуваат. Позадината е сосем друга а ние само ќе имаме теории, една од нив ќе е точна ама прашање е колку вреди човек да се замара со ова и залудно да си го троши сопственото време, на крај секако ќе си го истераат своето, ама приказната дека се загрижени за нас, луѓето?
Не ми се верува дека во 2026 уште некој мисли дека овие мултимилјардери нас не перцепираат и се грижат за обичниот човек. Оваа наивност преминува во блага ретардација жими све, не можам некого да сметам за интелигентен човек а притоа да верува во ова (не е ова насочено кон тебе). Исто е и со дата центрите, и приказните дека обичниот човек ќе има бенефит од нив. Се хе хе хе ка ко.

Или е конкуренција во прашање, или едноставно губат мноооогу повеќе пари отколку што заработуваат моментално, или некое 10то или. Ама вака како што е претставено, сумјиво е до јаја и ко што реков многу неприродно. Како е природно со свиркачите и големите корпорации, боинг најубаво ќе ти го раскаже сето тоа. А и еден од соработниците на Алтман се има самоубиено во многу сомнителни околности, фрапантно делуваше колку дупки има таа приказна а истите на маса му ги стави Пирс Морган за време на интервјуто што го имаше со Алтман.

 

[Aceso]

Како дефинираш свест?

Cogito, ergo sum? Тоа би било фер дефиниција во компјутерскиот свет. Јас така мислам.

Како и да е, ако го извлечиш кабелот од струјата, нема да има автономен одговор за преживување. Така што, за докторите нема свест ако нема рефлекси и нема хемија.

Му ги пресметав поените за состојба на свест.
АИ - то има Glasgow Coma Score 7/15
Има вербален одговор, но нема моторен и не може да ги отвара очите и да реагира на вербални или физички стимулации.

Значи, според сите медицински протоколи АИ - то е во длабока кома и е за на интензивна нега.

 

[Con Artist]

Повикот за успорување. Лично ја не верувам у можноста АИво во оваа форма да добие свест. Бар од тоа што сум читал за архитектурата нивна.

Дека има опасност од самата примена, океј, ама тоа имаше у сам старт. Очигледно некој рачун не им испаѓа (финансиски) за сеа да бараат регулатива. Божем муабетот беше Кина ќе ги престигне. Сега што бидна, и нив ќе ги регулираат?

Не се работи толку за свест, проблемот повеќе им е од безбедносен аспект и контрола. Им се случуваат некои непланирани и непредвидени работи.

Имаш ситуации каде неколку пати по ред, во краток период, AI агенти им бегаат од sandbox без интернет пристап искористувајќи 0 day ранливости, хакираат и искористуваат надворешни сајтови и системи за да дојдат до информации што ќе им помогнат да решат некој (нерешлив) benchmark/задача, поточно да препишат на тестот.

И сега тој misalignment ги дупи нешто, најверојанто. Ако на ова ниво на развој им се случуваат вакви непредвидени работи, засега без некоја посериозна штета, тогаш што би било доколку се удри гас на scaling и евентуално recursive self-improvement, каде моделите би станале уште поспособни, со поголема процесирачка моќ, поголема автономија и сл.

Не знам колку се искрени, ама реално држи вода и нивнава "загриженост", ако може така да се каже. Како и да е, има овде доста простор за теории, ќе биде интересно да се следи ситуацијата.

Делува некако оркестрирано сево ова, прво имаш условно речено свиркач, па наеднаш вработен во Антропик се надоврзува на негов твит или така нешто беше, па потоа свиркачот оди на CNN, личи на хари потер патем, и на свиркачот од Антропик се надоврзува Дарио со негово интервју ако не се лажам пак на CNN каде многу избагува и кажа but и I едно 1800 пати, иако и тоа можно е да не е случајно, и на крај го имаш неговиот есеј на кој се надоврзаа сите.

Све ова делуваше многу неприродно и како и секогаш, нештата не се онака како што нам ни се претставуваат. Позадината е сосем друга а ние само ќе имаме теории, една од нив ќе е точна ама прашање е колку вреди човек да се замара со ова и залудно да си го троши сопственото време, на крај секако ќе си го истераат своето, ама приказната дека се загрижени за нас, луѓето?
Не ми се верува дека во 2026 уште некој мисли дека овие мултимилјардери нас не перцепираат и се грижат за обичниот човек. Оваа наивност преминува во блага ретардација жими све, не можам некого да сметам за интелигентен човек а притоа да верува во ова (не е ова насочено кон тебе). Исто е и со дата центрите, и приказните дека обичниот човек ќе има бенефит од нив. Се хе хе хе ка ко.

Или е конкуренција во прашање, или едноставно губат мноооогу повеќе пари отколку што заработуваат моментално, или некое 10то или. Ама вака како што е претставено, сумјиво е до јаја и ко што реков многу неприродно. Како е природно со свиркачите и големите корпорации, боинг најубаво ќе ти го раскаже сето тоа. А и еден од соработниците на Алтман се има самоубиено во многу сомнителни околности, фрапантно делуваше колку дупки има таа приказна а истите на маса му ги стави Пирс Морган за време на интервјуто што го имаше со Алтман.

Ова се случува уште пред да излезе тој Хари Потер во јавност. Пред него имаше уште неколку бивши вработени во големи AI компании со слични настапи во јавност. Не само од Anthropic, туку и бивши вработени од OpenAI.

Исто и мене ми делуваше неприродно некако, како одеднаш да зачестија вакви душегрижници, особено после инцидентов со Hugging Face. Ги имам и пцуено што креираат таков думерски наратив и шират хистерија и страв меѓу обичниот народ за ваква прекрасна технологија. Ама еве сега и газдиве се јавуваат со таков став, што додава нова променлива во загатката, а со тоа се отвора и многу простор за нови теории.

Конкуренција не верувам дека е во прашање, можеби евентуално кинеска. Овој инцидентов прво мислев дека е баш такво нешто, маркетинг трик пред да излезе нов модел, ама еве како што гледаме, тој инцидент е сфатен сериозно и добива на валидација и од директните конкуренти, и самиот Дарио го спомнува во постот.

 

[Ska Maniac]

Cogito, ergo sum? Тоа би било фер дефиниција во компјутерскиот свет. Јас така мислам.

Како и да е, ако го извлечиш кабелот од струјата, нема да има автономен одговор за преживување. Така што, за докторите нема свест ако нема рефлекси и нема хемија.

Му ги пресметав поените за состојба на свест.
АИ - то има Glasgow Coma Score 7/15
Има вербален одговор, но нема моторен и не може да ги отвара очите и да реагира на вербални или физички стимулации.

Значи, според сите медицински протоколи АИ - то е во длабока кома и е за на интензивна нега.

Добро тетка Бијонс.

 

[AceCaleb]

Да, со Codex, топ е.

Сепак што ти е преференца за кодирање и слично, ова или Claude Code?

 

[Ingvar]

Да не се разбереме погрешно. Нив кур ги заболе за опасностите. Да бидам попрецизен - тие бубрег би дале да бидат човекот што измислил вештачка супер интелигенција.

Ама сфатија дека досегашниот експоненцијален раст е неприроден, дека нормално е да добие точка на стабилизација и линеарен раст и сега смислуваат изговор. Сигурно нема на сите инвеститори да им речат извинете ве лажевме.

Позадината ако некој се чуди е уствари трансхуманизам, бесмртност...стварање на симулација, внатре у симулацијава.

 

[poimanemam]

Загрижени биле... Како да не...

Капитализмот беше добар едно време, ама имам чуство дека сега се враќаме кон оној, стар капитализам каде што алчноста е преголема...

Ќе цитирам еден лик што кажал за капитализмот во тоа негово време (додуша кај него општеството сеуште било феудализам):


„Капиталистите ќе ни го продадат јажето со кое ќе ги обесиме.“

Како идат работиве, ми се чини дека ќе го воскреснат...

 

[Ska Maniac]

CNN: Вештачката интелигенција за малку ќе предизвикала војна меѓу САД и Кина

Разузнавачки извештај создаден со помош на вештачка интелигенција оваа пролет за малку ќе довел до вооружен судир меѓу САД и Кина. Во извештајот се тврдело дека кинески брод на Блискиот Исток превезува компоненти за нуклеарна програма, што предизвикало итна воена реакција.

www.kajgana.com

 

[Con Artist]

Сепак што ти е преференца за кодирање и слично, ова или Claude Code?

Засега на Codex сум, заради Astra-та, и највероајтно барем уште некој месец така. За понатаму ќе размислам. Си бркаат работа и двете.

Позадината ако некој се чуди е уствари трансхуманизам, бесмртност...стварање на симулација, внатре у симулацијава.

Ти треба да ја гледаш Devs.
Има малку лоша глума, многу работи можеле подобро да се изведат, ама има интересна приказна.

 

[Amaterasu]

Не се работи толку за свест, проблемот повеќе им е од безбедносен аспект и контрола. Им се случуваат некои непланирани и непредвидени работи.

Имаш ситуации каде неколку пати по ред, во краток период, AI агенти им бегаат од sandbox без интернет пристап искористувајќи 0 day ранливости, хакираат и искористуваат надворешни сајтови и системи за да дојдат до информации што ќе им помогнат да решат некој (нерешлив) benchmark/задача, поточно да препишат на тестот.

И сега тој misalignment ги дупи нешто, најверојанто. Ако на ова ниво на развој им се случуваат вакви непредвидени работи, засега без некоја посериозна штета, тогаш што би било доколку се удри гас на scaling и евентуално recursive self-improvement, каде моделите би станале уште поспособни, со поголема процесирачка моќ, поголема автономија и сл.

Не знам колку се искрени, ама реално држи вода и нивнава "загриженост", ако може така да се каже. Како и да е, има овде доста простор за теории, ќе биде интересно да се следи ситуацијата.


Ова се случува уште пред да излезе тој Хари Потер во јавност. Пред него имаше уште неколку бивши вработени во големи AI компании со слични настапи во јавност. Не само од Anthropic, туку и бивши вработени од OpenAI.

Исто и мене ми делуваше неприродно некако, како одеднаш да зачестија вакви душегрижници, особено после инцидентов со Hugging Face. Ги имам и пцуено што креираат таков думерски наратив и шират хистерија и страв меѓу обичниот народ за ваква прекрасна технологија. Ама еве сега и газдиве се јавуваат со таков став, што додава нова променлива во загатката, а со тоа се отвора и многу простор за нови теории.

Конкуренција не верувам дека е во прашање, можеби евентуално кинеска. Овој инцидентов прво мислев дека е баш такво нешто, маркетинг трик пред да излезе нов модел, ама еве како што гледаме, тој инцидент е сфатен сериозно и добива на валидација и од директните конкуренти, и самиот Дарио го спомнува во постот.

Најверојатно е комбинација од повеќе работи. Дефинитиво има опасност од овие случаите што ги спомна. Можам да замислам какви случаи на AI Hacking има што не се објавени во јавноста.
Ама едно нешто што OpenAI и Anthropic сакаат да постигнат е да ја оновозможат идната конкуренција. Со тоа што има еден куп open source AIs, може многу лесно било кој да почне да развива. Ако успеат да го "успорат" процесот, ќе ја успорат конкуренцијата. Тие веќе секако се изградени компании (и го направија тоа без никакви регулации) ама затоа сеа сакаат да ги заебат тие што идат после нив.
На крај, може и не е толку лошо ова за нас, затоа што ризикот од "секој може да развива AI" е исто голем. Си замислувам како ќе беше ако секој можеше да развива нуклеарна бомба пример (нормално ако ги имаш парите). Светот ќе беше многу поопасен него ли сега.

 

[Ska Maniac]

Најверојатно е комбинација од повеќе работи. Дефинитиво има опасност од овие случаите што ги спомна. Можам да замислам какви случаи на AI Hacking има што не се објавени во јавноста.
Ама едно нешто што OpenAI и Anthropic сакаат да постигнат е да ја оновозможат идната конкуренција. Со тоа што има еден куп open source AIs, може многу лесно било кој да почне да развива. Ако успеат да го "успорат" процесот, ќе ја успорат конкуренцијата. Тие веќе секако се изградени компании (и го направија тоа без никакви регулации) ама затоа сеа сакаат да ги заебат тие што идат после нив.
На крај, може и не е толку лошо ова за нас, затоа што ризикот од "секој може да развива AI" е исто голем. Си замислувам како ќе беше ако секој можеше да развива нуклеарна бомба пример (нормално ако ги имаш парите). Светот ќе беше многу поопасен него ли сега.

A овие предходниве што ни гарантираат дека нема да ја злоупотребуваат технологијата и да измислуваат оружја ?
Можеби баш затоа сакаат да постават монопол за полесна контрола.

 

[Amaterasu]

A овие предходниве што ни гарантираат дека нема да ја злоупотребуваат технологијата и да измислуваат оружја ?
Можеби баш затоа сакаат да постават монопол за полесна контрола.

Тие ќе прифатат да бидат регулирани (како и што треба да бидат). Нормално дека целата им е да воспостават монопол (кој не би сакал ). Ќе остане на државите да го регулираат развојот на AI и да овозможат контролирана конкуренција.