Як генеративний штучний інтелект змінив науковий світ? Вчені-халтурщики використовують GPT?
HTML-код
- Опубликовано: 13 июн 2024
- Донейт на ЗСУ: savelife.in.ua/DONATE/
Станьте спонсором цього каналу, щоб отримувати бонуси:
/ @scienceuaofficial
Telegram ScienceUA: t.me/scienceuaofficial
Instagram: / pashapalinichak
Facebook: / ppalinichak
Допомогти розвитку каналу: 5168745022307687
Buymeacoffee: www.buymeacoffee.com/scienceua
Список використаних джерел:
1. ChatGPT one year on: who is using it, how and why? (nature.com) - www.nature.com/articles/d4158...
2. How ChatGPT and other AI tools could disrupt scientific publishing (nature.com) - www.nature.com/articles/d4158...
3. RETRACTED: Cellular functions of spermatogonial stem cells in relation to JAK/STAT signaling pathway - www.frontiersin.org/articles/...
4. AI and science: what 1,600 researchers think - www.nature.com/articles/d4158...
5. Foresight: Use and impact of Artificial Intelligence in the scientific process - erc.europa.eu/sites/default/f...
6. Current position of the ERC Scientific Council on Artificial Intelligence - erc.europa.eu/news-events/new...
7. Tools such as ChatGPT threaten transparent science; here are our ground rules for their use - www.nature.com/articles/d4158...
8. Policy on Use of Generative Artificial Intelligence in the ARC’s grants programs - www.arc.gov.au/sites/default/...
9. The Use of Generative Artificial Intelligence Technologies is Prohibited for the NIH Peer Review Process - grants.nih.gov/grants/guide/n...
10. Nature Portfolio. Peer Review - www.nature.com/nature-portfol...
Таймкоди:
00:00 - Вступ. Кричущі ляпи.
01:08 - Останні події. Поява загальнодоступних LLM
02:46 - Як часто вчені користуються LLM
04:27 - Які переваги для дослідників?
06:00 - Недоліки використання мовних моделей
09:08 - Ставлення видавництв до використання LLM
10:51 - Інше застосування GPT. Для чого він годиться?
12:30 - Маленький секрет ScienceUA
13:08 - Оновлення політики RUclips - Наука
Думаю, що ви правильно робите, що підвищуєте свою ефективність з ШІ. Вірю, що і надалі будете відповідальні й обережні в цьому
Дякуємо! Звичайно ми постараємося максимально добримуватися етичних норм використання LLM.
Як завжди все цікаво та корисно знати
Хай квітне Український ютуб ❤❤❤❤
Дякую за відео!
Повністю погоджуюсь з авторами каналу. Щодо світової системи публікації наукових статей. На мою думку, дійсно краще щоб науковці більше зосереджувалися на якості досліджень ніж на їх кількості.
Мав досвід написання деякої документації для оформлення нової компанії (в тому числі і статуту фірми). За допомогою ШІ робота зайняла приблизно пів дня, замість тижня. При чому ШІ зробив все миттєво, більшу частину часу я просто редагував текст. Тому для роботи з бюрократією дуже зручно.
Для цього треба змінити систему винагороди.
В українських реаліях цим почав займатися Фонд Національних Досліджень, що перед тим як давати грант на держзамовлення звертає увагу на реальний індекс Хірша за скопувськими публікаціями, а не на надуті "хірши" публікаціями в укр-журналах, що індексуються виключно в Україні і опублікувати там можна ледь не будь-що.
Підняте питання дуже актуане, цікаво шляхи вирішення.
Для відповіді доведеться робити ціле нове відео. Але загалом шлях вирішення прозвучав - змінити парадигму і переорієнтуватися з кількості на якість.
Такий незвичайний світ нас оточує і захоплює. Подяка автору.
Дякуємо Збройним Силам України за захист від окупантів!
Виконання всього що підвищує ефективність - правильно, але в кожного інструменту є межі де його використання доцільне. Важливо повсякчас про це пам'ятати.
З повагою та найкращими побажаннями до вас колего
Зараз навчаюся і постійно спостерігаю, як люди використовують ШІ для нарисання робіт різного рівня. І це буквально треш. Якийсь постер через нього зробити можна не складну тему, а от написати хорошу доповідь чи мале якесь дослідження типу курсову абсолютно не реально. Вбиває лише те, що це абсолютно нікого не зупиняє. Дебільність семінарів та доповідей вийшла на новий рівень. Десь щотижня доходить до того, що хтось розповідає, а інші тупо ржуть з тої шизи, яку йому написав ші, а він не вичитав.
А якість роботи загалом це окрема тема. Ви вважаєте це конспіроогічною теорією, як я бачу, але це тупо факт, що чат гпт зацензурували. В грудні 2022 він спокійно викорнував більшість завдань, а зараз ти щоразу впираєшся в стіну цензури. "Я лише бот, я не буду цього робити" або взаглі блокає розмову за порушення принципів без причини. Логіка і послідовність в діалозі взагалі зникла. Будь-які завдання забуває вже за кілька фраз.
Нууу, цензура загалом є, інколи брєдова, але щоб четвертий прямо відмовлявся щось звичне робити - такого не зустрічав. А на рахунок забування інструкцій - це його робота як регресивної моделі, необхідно його довчати.
Я використовую ШІ для створення ілюстрацій для моїх презентацій, але це щось просте типу на слайд з планом де написано що перерва на каву о 12:00 - українка перед ноутом з кавою - нічого, що може ввести в оману
У Вас найраціональніший підхід - використовувати інструмент для тих завдань, для яких його придумали. І саме з такими примітивними задачами він швидко і успішно справляється. Успіхів!)
Дуже, надзвичайно цікава історія з дісером у Південно-Східній Азії. Тамтешня культура поваги до старших, і не тільки за віком, а й за вагою у суспільстві, змусила місцевих вчених пропустити відвертий фейк. І тепер питання: а чого тоді взагалі варта та їх наукова діяльність? Жевріє й відповідь на інше, чому так хирляво представлена наука Китаю у світовому вимірі, мізерно, як на таку могутню державу?
Дякую Вам за як завжди дужже файне, цікавенне, корисне та пізнавальне відео!!!
Дуже цікава інформація подана у відео!
Дякую за вашу працю! 🔥🔥🔥
Доволі цікаве та актуальне відео. Які способи або засоби можете порадити для викриття штучного інтелекту?
В першу чергу читати і розуміти, що написано. Якщо у Вас буде натренований зір на статтях, що були написані до релізу LLM з вільним доступом (до 2022-го десь), то ви відчуєте різницю. + Ілюстрації, з ними простіше: DALLE не знає про існування фізики чи про існування письма. Дуже комічно наприклад те, що хоч GPT знає як імітувати мовлення, він не знає як виглядають літери, бо в ньому нема абстрактного мислення. Ви помітите порушення законів фізики або логіки в підписах. А якщо навіть в ілюстраціях сильні проколи - не варто і розраховувати на те, що письмо в документі буде якісніше.
@@ScienceUAofficial
Але із часом воно навчиться і цього. :)
ШІ це новий інструмент, і як і все нове буде використовуватись скрізь, поки не знайде собі місця.
Я пам'ятаю, коли писав диплом, була вимога писати від руки. Так, 21 століття, а я по "зебрі" друкованими літерами пишу диплом. Чому? А щоб не копіювали одне в одного, така була логіка ВНЗ.
Гадаю, ШІ можна використовувати будь де, головне, що за це має відповідати людина. Власне, яке кому діло, хто робив опис дослідження? Я, мої асистенти чи ШІ? Відповідаю що це я. І так, за всі "косяки" також, без огляду на ШІ. Моя робота - моя відповідальність.
А далі, далі буде еволюція, щось відпаде, щось наросте. У цікаві часи ми живемо.
Часи завжди цікаві. Наші з історичної перспективи просто здаються динамічнішими. Але це не доконаний факт, цілком ймовірно це ілюзія і зміни в 17 ст. чи навіть 14-у людьми сприймалися так само). А чим давніше - тим менше фактів/менше подій/тим більше враження, що людство сиділо на місці)
Ооо, дякую за такий канал и відео на український мові 💙💛
6:26 тут і в більшості людей буде погано з логікою) 😅
Щиро Вам Дякую за Вашу якісну роботу.
✌️❤️🇺🇦
дякую. топ
Недавно писали няні рекомендацію за допомогою чат джіпіті. Бо не зразу знайшли слова зоб описати її роботу з дитиною )
П.С. Роботою і няні і аі-помічника задоволені.
Мені подобається наочна демонстрація помилок😊
Якщо в заголовку чітко вказано "згенеровано штучним інтелектом", то най буде, але якщо це видається ніби людина це зробила, то тоді це погано й неправильно.
У ші досі є проблеми з числами та величинами.
Тому що language-інструмент, для чисел є інші, від калькуляторів, sage, до wolfram alpha
А з чим не має проблем? :)
Жевріє надія, що людство хочаб ШІ встигне залишити до самознищення.
Найважливіше зробити відео як штучний інтелект використовуют для генерації або опрацювання теорій або технологій. Чи взагалі таким займаються вчені? І де хоча б одне відео про це?
Для опрацювання нових теорій і технологій жпт не використовується - це неможливо. Він може тільки переписувати по аналогії, але не писати.
В україномовному сегменті толкового відео по темі нема, тому взагалі вийшло це.
Цікаво, актуально
Ви звертаєте увагу на те, що ШІ робить граматичні і лексичні помилки. Але ж головна проблема не розкрита - тексти ШІ не мають жодної наукової цінності. Він генерує просто компіляцію з текстів пошукових систем. По факту - просто продвинута версія гуглу. Він корисний тільки для найпростіших поясненнь чи задач. Задачи трохи вищі за шкільний рівень - він видає або маячню, або просто не може відповісти на питання, видаючи банальні тексти в стилі "ваш КО". Про наукові проблеми мови взагалі не йде.
Але значна частина наукових робіт і є перехресним аналізом чи компіляцією попередніх досліджень. В цьому і суть. Окрім того змоделюємо ситуацію: у Вас отримані нові експериментальні дані, Вам потрібно їх описати. Теоретично ви можете "згодувати" ЖПТ свої дані, щоб він їх описав і порівняв із існуючими. Те, що при цьому він допустить помилки - це ймовірно, але завдання він виконає.
@@ScienceUAofficial
Ну добре, ШІ це інструмент, і він звичайно має деяку область застосування. Це нормально.
Але справжня проблема в тому, що він буде використовуватись не протсто для аналізу даніх, а я для генарціі тах самих даних (або теорій, або пояснень і так далі). І тоді ми замість науки отримаємо потік маячні (насправді, є відчуття що воно вже давно так і є, і навіть без ШІ).
От цікаво, що писав автор тієї статті за пацюком? Це теж був аналіз експерементальних даних? Будемо відвертими, знайдеться багато "британських вчених" які просто будуть штампувати статті, *повністю* сгенерованих ШІ, я які можуть замінити справжню науку. І це головна проблема.
@algol36 замінити вони науку не зможуть, але розмити - вже це відбувається. Тому це відео і з'явилося. На рахунок пацюка, навряд вони навіть спробують тепер опублікувати своє" дослідження ", бо тавро вже стоїть і якщо десь вони зробили "мілкі помилки" їх манускрипт завернуть.
Те, що ви написали - функціонал жеміні або барду (і то не зовсім). Чат гпт той же працює більш глибоко та адекватно.
@@user-uh1rb5vg8w Ні, я маю на увазі саме ChatGPT 3.5 з яким я іноді працюю. Моє особисте враження - він туповатий.
Але питання зовсім не в цьому. Навіть якщо чатботи стануть на порядки розумнішими, ви вважаете що тоді вони можуть писати наукові статті?
Зверніть увагу, чатботи - це не інтелект, це імітація інтелекту. І навіть точніше - імітація розумного тексту. Якщо ви почитаєте як працює gpt, то зрозуміло, що це просто прогностична модель, яка в буквальному сенсі прогнозує верогідність наступного слова в реченні. Так, модель величезна, так, там є деякі спеціфічні механізми. Але це навіть близько не інетелект. Там його просто немає.
І тепер уявимо недалеке майбутнє. Ви заходите на вікіпедію - там статті сгенеровані ботом. Дивитесь підручник - він згенерованим ботом. Відкриваєте новини - вони всі сгенеровані ботом (разом з картинками і відео).
В якись момент ми просто перестанемо відрізняти реальність від сгенерованого світу, який є просто видуманою імітаціею.
Ось це проблема. І вона, здаєьться, невідворотня.
Хвилинка душніли:
Не випАдок, а вИпадок.
Не девЕсти, а довестИ (це стосується і всіх решта слів по типу: везти, нести, та їх похідних)
Додам ще: рукОпис, а не рУкопис.
Оминайте вас ракети 🤗
👍👍👍
Чим більше ми покладатимемось на штучний інтелект тим швидше він перевершить наш
Може потрібно зробити щоб ші архівував всі свої відповіді, після чого можна буде легко порівняти текст з базою відповідей ші.???
Наука давно стала ремеслом, а не ходженням туди, що важко пояснити сучасними теоріями. Тому це є проявом кризи науки. Тобто проявом реальної її суті зараз.
гадаю від такого діалогу едвін габбл би здурів)
Цей чат змінить світ до нівпізнаваності. Буде розділення, до чату і після, як нова ера, це лише початок
дати правильний запит для ші теж треба вміти
👍🇺🇦🇺🇦🇺🇦🇺🇦
Класний канал. Але наче чогось не вистачає. Динаміки може. Може забагато термінів. Втрачається увага швидко(
Над динамічністю працюємо, а от на рахунок уваги це лише частково від авторів залежить 😏
В будь-якому разі не все одразу)
Що таке текст? Спосіб передачі інформації.
Яким саме чином буде написаний текст - за допомогою руки і ручки на папері, олівцем на асфальті, викладений деревами SOS на безлюдному острові, чи згенерований за допомогою llm моделі - це не має значення, якщо інформація дійшла до свого адреса у тому виді у якому планувалось.
Має! Чат-бот тексту не бачить взагалі, він токени складає, а вже вони декодуються в тексто-подібну інформацію))
@@ScienceUAofficial якщо адресат отримав інформацію котра була написана не на листочку ручкою, а за допомогою llm моделі, то яка різниця адресату?
*написано на листочку ручкою*
Почалась війна.
*написано llm моделлю*
Почалась війна.
То ж яка різниця для отримувача яким саме чином була написана інформація і чи розуміє ту інформацію той хто її написав
Йому різниця в тому, що інформація прибуде в спотвореному вигляді. Жпт не цитує, він генерує за аналогією "щось схоже".
Ми ж не спілкуємося двома словами.
@@ScienceUAofficial поміть, у першому повідомленні я написав що інформацію отримають у тому вигляді, яки задовольняє відправника. Тобто відправник згенерував, прочитав, йому сподобалось і він відправив це отримувачу. Яка різниця яким чином написана та інформація, якщо відправник її заакцептив?
Люди як завжди:
Казали вирішують біологічні проблеми, створили біологічну зброю.
Казали технології покращать життя, це зробило війни більш масштабні.
Казали ШІ допоможе нам, а получився ще спосіб обману один одного.
Тепер ідіотів стане ще більше, а їх можливості ще небезпечніші.
Все так)
Нові знання - нова загроза і можливості. Це давня тенденція, але просто зупинити маховик теж не вихід.
І цей маховик називається "людина".
ШІ це його оберт в подорожі кудись.
ШІ насправді підвищують ціну здібних людей, бо знайти когось хто зробить свою роботу не по шаблону, буде значно дорожче.
Штучний інтелект змусить людину перестати думати взагалі.
Хто не знав але Україна привернула увагу до OpenAI
Спершу ШІ мав деякі запрограмовані упередження що до астрофізики, але практичні задачі нижчого рівня розв'язував доки не входив до упередженнь. Згодом йому і ті задачі заборонили розв'язувати через загрозу "загальноприйняті маячні" тому, як "науковець" - він ГМО забите антинауковими протоколами.
Вже уявляю перелік заборон LLM:
расизм, сексизм, ейджизм, тощо
і в кінці переліку "Відкривати правду про відсутність великого вибуху"
Не здається, що це чергова маячня з вашого боку?
@@ScienceUAofficial це колективна маячня з вашого боку. Абсолютна відсутність критичної думки і відсутня здатність до елементарних розрахунків, тільки колгоспний крик з впевненістю, що такі самі підтримають криком.
Якщо ніц не розумієте в фізиці - то навіщо коментуєте той напрямок?
Важко говорити про "колективну маячню", якщо людей, що володіють знаннями про наукові парадигми по відношенню до населення Землі абсолютна меншість. Вам так не здається?)
Як нам впевнитися, що Ви долучені до кола людей, що "розумієте в фізиці"?
@@ScienceUAofficialще про кількість релігійних людей не забудьте згадати, до яких належать офіційні недонауковці.
А, те, хто з нас розбирається у фізиці - легко вирішується розв'язанням першої реальної задачі з фізики.
У Вас є приклад "реальної" задачі, яку Ви розв'язали, а "недонауковці" не змогли?
Сучасний ШІ, нажаль, це програма з імітацією інтелекту.
Цього ніхто не приховує
4:00 про літературу - це жах.
Задача жпт - генерировать слова. Честно сказано - языковая модель. И он прекрасно генерирует слова! Но какую же охинею по сути выдумывает!.. Неиссякаемый источник альтернативных вселенных.
Вибачайте за коментар вище. Мій кишеньковий ШІ не тією мовою патякає. Більше не дозволю йому вештатись рунетом.
😁
AI с января 2022. Ничего не знают
Це до чого?)
@@ScienceUAofficial он мёртв уже 2 года
Що?)
ШІ ніколи живим і не був 😂
@@ScienceUAofficial він, як книга по історії. Про що з ним балакати, тим паче щось вирішувати?!
Він зараз підключений до інтернету, у нього можна запхати власні дані... Як співрозмовник звичайно так собі)
Ви вірите в Бога?
Welcome back!
не можеш побороти - очолюй!
Ця теза буквально прозвучала у відео)
Контролювати такі технології як ЖПТ, принаймні на даний момент, неможливо.