- 1 Był "laptopa dla czwartoklasisty" - co zamiast? (17 opinii)
- 2 Co się zmieni na egzaminie ósmoklasisty 2025? (15 opinii)
- 3 Nawet 1000 zł za wyprawkę szkolną dla dziecka (16 opinii)
- 4 Znamy terminy egzaminów w roku szkolnym 2024/25 (17 opinii)
- 5 Nowe wymagania na maturze 2025. Co się zmieni? (83 opinie)
- 6 Uczelnia z Pomorza awansuje w rankingu szanghajskim (66 opinii)
Czy powinniśmy się bać sztucznej inteligencji? "Nie możemy ufać własnym oczom"
Czy chat GPT to rzeczywiście przełom? Czy już wkrótce będziemy wykorzystywać narzędzia sztucznej inteligencji w pracy, a może wręcz ją stracimy na rzecz nowych technologii? O wyzwaniach, jakie niesie rozwój algorytmów, porozmawialiśmy z dr hab. inż. Piotrem Szczuko z Katedry Systemów Multimedialnych Politechniki Gdańskiej.
Dr hab. inż. Piotrem Szczuko: Sztuczna inteligencja jest rozwijana od dziesiątków lat, natomiast ostatni czas przyniósł ogromny postęp dotyczący mocy obliczeniowej, która jest potrzebna, aby odpowiednio wydajnie trenować algorytmy i tym samym, aby poprawnie działały. Druga rzecz to dostępność danych - z roku na rok coraz więcej usług działa w Internecie, w chmurach, a zasoby i dane są coraz bardziej dostępne np. pełne teksty prac naukowych, wpisujące się w trend otwartej nauki, hasła Wikipedii i porady profesjonalistów. To wszystko jest inspiracją do tworzenia nowych inicjatyw, a twórcy algorytmów mają coraz lepsze podstawy, aby proponować coś pomysłowego.
W przypadku mocy obliczeniowej można stosunkowo tanio wynająć usługi we wspomnianej chmurze, które pozwalają przeprowadzić obliczenia bez potrzeby inwestowania w ogromną infrastrukturę serwerową. Te dwa trendy zbiegły się i napędzały rozwój np. algorytmu GPT, a także tych generujących obrazy, jak Midjourney czy Stable Diffusion - potrafiące na podstawie tekstu wyjściowego stworzyć bardzo realistyczny obraz, pejzaż czy grafikę np. Gdańską Starówkę stylizowaną na obraz van Gogha.
Sztuczna inteligencja wykryje nowotwór? Aplikacja doktorantki z PG
Niektórzy wieszczą, że jest to przełom porównywalny z odkryciem Internetu.
Jestem bardzo sceptyczny i nie nazywałbym tego przełomem. Jesteśmy przyzwyczajeni, aby myśleć o algorytmach jako o sztucznej inteligencji, ale one nie mają ludzkich cech, nie są inteligentne. Świetnym przykładem są najnowsze eksperymenty w postaci chatu GPT w wersji 4, który został zintegrowany z wyszukiwarką internetową. Użytkownikowi wydaje się, że rozmawia z odrębnym bytem, drugim człowiekiem, z ekspertem. To jest mylne, bo algorytmy zaskakują nas tym, że potrafią konstruować długie wypowiedzi, które jednak tylko pozornie mają sens. Tymczasem sposób generowania tekstu jest narażony na błędy. To jest algorytm statystyczny - chat GPT uczy się i analizuje, że skoro na ekranie pojawiły się konkretne słowa, to najbardziej prawdopodobnym dalszym ciągiem jest kolejne słowo. To tylko statystyczna zależność. Algorytmy przytaczają zmyślone fakty, przeinaczają daty, mają problem z prostymi logicznymi zagadkami czy interpretowaniem intencji pytającego. Takich drobiazgów jest dużo i pokazują wady tego systemu.
Czy już wkrótce będziemy wykorzystywać algorytmy w pracy?
Trudno powiedzieć. Robię rozmaite próby z tymi algorytmami i dostrzegam zalety i wady. Można założyć, że kiedyś będzie to przydatne naukowcom, którzy np. potrzebują streszczeń dużej liczby prac. To może przyśpieszyć pracę, choć jak wspomniałem, jestem sceptyczny, bo nadal są popełniane błędy. W ostatnim czasie poprosiłem o streszczenie książki, którą przeczytałem, a więc pozornie prostą rzecz. Algorytm sięgał do zasobów i mieszał fakty z różnych źródeł - wymieszał definicje w profesjonalnej wypowiedzi, a innym razem bohaterów opowieści w streszczeniu. Kiedyś zapytałem też o podstawy przetwarzania języka naturalnego, czyli natural language processing, a chat pomieszał to z programowaniem neurolingwistycznym. Połowa wypowiedzi była prawidłowa, a potem był "przeskok na inne tory", bardzo szkodliwy, bo potencjalnie niezauważalny dla osoby niezaznajomionej z tematem.
Nowy samochód badawczy z PG pomoże w utrzymaniu dróg
Rozwijanie tych technologii i poprawa błędów to kwestia czasu?
Postęp GPT w kolejnych wersjach jest tak dynamiczny i tak szybki, że za chwilę pewnie ujrzymy wersje niemające tych błędów. Będzie można je włączyć do codziennej pracy np. tworzenia podsumowań tekstów, streszczania korespondencji mailowej. To będzie przyspieszało wiele naszych zadań. Na pewno Chat GPT może być doskonalszy. Natomiast oczekiwałbym, aby kolejne kroki rozwoju polegały na stworzeniu procedur niekoniecznie opartych o sztuczną inteligencję, ale o sprawdzanie wiarygodnych źródeł - pozwalające wręcz na automatyczne sprawdzanie faktów. Wikipedia jest moderowana przez użytkowników, którzy dbają o jej wiarygodność, chat GPT próbuje to robić, ale w tym momencie miesza różne źródła całkowicie chaotycznie. Co ciekawe, w ostatnim czasie Google ogłosiło nowe narzędzie o nazwie Bard, podkreślając, że algorytmy się mylą i to użytkownik ma stać na straży rzetelności. Bard nawet informuje, że jest możliwość generowania trzech różnych odpowiedzi i to na nas spoczywa odpowiedzialność ich wyboru i weryfikacji.
- Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi.Pojawiają się teorie, że sztuczna inteligencja nam zagraża, że może przestać być kontrolowana.
Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi. Jako użytkownicy również mamy wpływ na to, komu będziemy ufali i z czego będziemy korzystać. Oczywiście powinniśmy wdrażać regulacje prawne, ale najważniejsza jest edukacja i świadomość, że nie można ufać temu, co się widzi, temu co się słyszy, bo algorytmy są w stanie wygenerować pozornie wiarygodne rzeczy, które nie mają nic wspólnego z prawdą. Największym zagrożeniem jest nasze lenistwo. Jeśli poprosimy o wygenerowanie pracy na zaliczenie, to będą tego konsekwencje. Jest duże ryzyko, że tekst będzie pełen niespójności logicznych i faktów wymyślonych przez algorytm, co jest nazywane halucynacją. Nie mówię tylko o ewentualnym oblaniu, ale materiał pojawi się w bazach, będzie powielany nieintencjonalnie bez zamysłu autora i tym samym będzie generował błędy w przyszłości. Jako wykładowcy staramy się uświadamiać studentów o tych zagrożeniach i uczyć społeczeństwo, jak bezpiecznie korzystać z nowych technologii. Przede wszystkim ważny jest fact checking, weryfikacja.
Sieci neuronowe, sterowanie pojazdów falami EEG i blockchain. PG wyróżniła projekty badawcze
Ostatnio widzieliśmy fałszywe zdjęcia Donalda Trumpa pojmanego przez policję.
Jeszcze raz powtórzę, powinniśmy ostrzegać odbiorców mediów, że nie możemy ufać własnym oczom. Technologia deep fake to już nasza codzienność i nie jesteśmy się w stanie przed tym bronić. Pozostaje jedynie rzetelność dziennikarska. Z drugiej strony, im więcej będzie takich przykładów jak fejki z osobami publicznymi czy znanymi aktorami, tym bardziej będziemy rozumieć, jak to działa. Potrzebne są również narzędzia weryfikacji - na przykład wyraźne oznakowanie niezweryfikowanych kont w mediach społecznościowych, aby użytkownik od razu miał możliwość oszacowania wiarygodności źródła. Algorytm, który wnosi coś do obrazu, powinien również generować podpis wskazujący na zmiany, tak jak narzędzie bing create firmy Microsoft. Na poziomie Unii Europejskiej mamy rekomendacje AI Act określające zalecenia stosowania takich algorytmów i zobaczymy, jak konkretne kraje będą wdrażały ten dokument. Są również cele nieszkodliwe, takie jak rozrywka czy cele artystyczne. Należy pamiętać, że jest to narzędzie i tylko od człowieka zależy, do czego je wykorzysta.
Widzimy jednak, jak sztuczna inteligencja wchodzi w inne obszary nauki np. diagnostyki medycznej.
Mówimy tu o różnych technologiach. Zadaniem GPT jest tworzenie czy wymyślanie tekstu. Z kolei w zagadnieniach medycznych głównym wyzwaniem jest klasyfikacja, technologia ma nauczyć się pracować na rzeczywistych danych. Nie ma wymyślać nowych danych, a precyzyjnie odróżniać wzorce. To jest ogromny plus rozwoju sztucznej inteligencji, że taką specjalistyczną wiedzę prawie bezkosztowo można powielać i stosować w każdym ośrodku medycznym na świecie. Algorytmy pozwalają przykładowo odtwarzać struktury białek, co jest potrzebne przy tworzeniu nowych leków, stwierdzać, które substancje chemiczne mogą wejść w skład nowych, eksperymentalnych leków. Potrafią wreszcie diagnozować różne choroby z obrazu tomograficznego czy rentgenowskiego. To działa coraz lepiej i pokładamy w tym ogromną nadzieję. Mówi się również o zastępowaniu niektórych zawodów przez AI, ale kompetencje ludzkie są potrzebne nawet w świecie zdominowanym przez algorytmy, przede wszystkim do podejmowania ostatecznej i odpowiedzialnej decyzji na podstawie sugestii podsuwanych przez algorytm.
Czy w Pana Zakładzie również trwają prace w oparciu o sztuczną inteligencję?
Nasz zespół, czyli Katedra Systemów Multimedialnych, od wielu lat zajmuje się wykorzystaniem sztucznej inteligencji do przetwarzania danych multimedialnych i biometrycznych. Mówię przykładowo o analizie sygnałów EEG w celu określenia poziomu świadomości osób sparaliżowanych, wykrywania intencji ruchu u takiej osoby albo o analizie akustycznej czy wideo w celu określania zdarzeń np. z kamer monitoringu, zdarzeń niebezpiecznych czy wypadków. Zrealizowaliśmy oparty na tej koncepcji projekt "INZNAK - inteligentne znaki drogowe", a w tym roku kończymy kolejny "INFOLIGHT - Chmurowa platforma oświetleniowa dla inteligentnych miast", który ma na celu opracowanie automatycznych algorytmów sterujących oświetleniem w mieście. Jeśli jest pora spokojna i mamy niewielki ruch uliczny, to możemy zmniejszać zanieczyszczenie światłem, ograniczać zużycie energii. Na razie testujemy to na kampusie - mamy kilka inteligentnych lamp z czujnikami - nawet nie używamy kamer, a całość bazuje na monitorowaniu podczerwieni i czujników akustycznych. Gdy oprogramowanie wykryje większe natężenie ruchu, automatycznie rozświetlają się lampy przed obiektami. Chodzi więc o optymalizację oświetlenia - niebieskie światło jest dobre dla kierowców, ale w mieście, a dokładniej przy zabudowie mieszkalnej, takie światło się nie sprawdza, bo zaburza poziom melatoniny i tym samym nasz odpoczynek. Projekt był finansowany ze środków Programu Operacyjnego Inteligentny Rozwój, organizowanego przez Narodowe Centrum Badań i Rozwoju.
We współpracy z lekarzami z Gdańskiego Uniwersytetu Medycznego rozpoczynamy wkrótce projekt "ADMEDVOICE - Adaptacyjny system inteligentnego przetwarzania mowy lekarzy wraz ze strukturalizacją wyników badań i wspomaganiem procesu terapeutycznego".
Śledzimy ciągle postępy badań nad sztuczną inteligencją na świecie i wdrażamy najnowsze technologie do programu kształcenia. W tym celu od 2021 roku realizujemy projekt "AI Tech - akademia innowacyjnych zastosowań technologii cyfrowych", finansowany z Programu Operacyjnego Polska Cyfrowa, którego rezultatem jest uruchomienie dwóch nowych specjalizacji na studiach II stopnia (magisterskich) na wydziale Elektroniki, Telekomunikacji i Informatyki w Politechnice Gdańskiej, dedykowanych sztucznej inteligencji i uczeniu maszynowemu.
Miejsca
Opinie wybrane
-
2023-04-10 10:09
Najbardziej analitycy i programiści (20)
W pracy już korzystamy z takich rozwiązań, pracownik bez pojęcia o programowaniu był w stanie napisać wtyczkę do Wordpress korzystając z chata. Ponadto szef przygotował analizę finansowa firmy w kilkanaście sekund, coś co analityk robi na etacie. Widzę niestety przyszłość w tym rozwiązaniu i jest to sposób optymalizacji zasobów i kosztów.
- 19 22
-
2023-04-10 18:23
Wordpress przecież po to istnieje żeby ludzie bez pojęcia o programowaniu mogli się w tym poruszać xD (6)
Poproś chat żeby ci np stworzył do aplikacji nowy feature który zażyczył sobie klient i niech ci to zintegruje potem z API i backendem
- 5 1
-
2023-04-10 21:48
W wersji 4 już robi wiele wiecej (5)
Dobrze zadane pytanie i miałem soft do sterownika w C
Myśle, ze nadchodzą złe czasy dla programistów, nie będziecie już tak potrzebni .- 2 3
-
2023-04-10 21:57
Właśnie będzie jeszcze więcej pracy (4)
Bo to ten soft możesz sobie w dupę wsadzić jeśli nie masz stworzonej reszty architektury, której chat ci nie stworzy. Jedynie przyspieszy proces tworzenia, więc będzie można tworzyć aplikacje szybciej i lepiej.
- 4 3
-
2023-04-12 20:53
Dla Juniorów nie bedzie bądź bedzie gorzej platna (1)
Jesli mam trzymać na etacie człowieka który większość czasu pisze kod ze stack overflow i Google, to wole kupić licencje na ver 4 i mieć zdebugowany kod w kilka sekund.
- 0 0
-
2023-04-13 07:15
To się na tym giewno znasz jeśli wierzysz że programowanie to przepisywanie skądś kodu xD
AI będzie dla Januszy twojego pokroju dużym rozczarowaniem
- 0 0
-
2023-04-11 13:52
Wszyscy dzisiaj tak się pocieszają (1)
Medycy na przykład - lekarz zawsze będzie niezbędny, bo intuicja i doświadczenie ze studiów więcej ważą niż jakieś tam miliony wchłoniętych prac naukowych i diagnoz z całego świata. Każdy uważa, że akurat jego branża jest bardzo specyficzna i w związku z tym niezagrożona. Good luck my friend. :)
- 0 1
-
2023-04-12 18:33
Może ty tak myślisz o swojej branży
Ja jestem elastyczny i przebranżowienie się nie jest dla mnie najmniejszym problemem
- 0 0
-
2023-04-10 17:27
(4)
czat gpt nie byl w stanie nawet ogarnąć mojego prostego skryptu, który używając REST i Outlooka tworzy dane z maili. Pisal cos tam ale nie tak jak trzeba.
Jako pomoc do napisania takie skryptu jasne, jako zastępstwo nie. A nie jestem programista. ba nawet polowa programisty XD- 5 0
-
2023-04-10 19:00
(1)
Korzystasz z płatnej wersji? Bo trochę się różni od tej starej darmowej.
- 1 1
-
2023-04-10 20:59
nieee, darmowa ofc
- 0 0
-
2023-04-10 18:24
Chatem się podbiecsjs ludzie którzy nie mają pojęcia o programowaniu (1)
Prawda jest taka że jest to tylko przydatne narzędzie i nic ponad to
- 3 3
-
2023-04-14 09:15
Gadasz bzdury, ponadto krytykujesz obecny model który już potrafi b. wiele.
Proste zadanka, szkielety frameworków zrobi, nawet poma zmieni w sposób kompatybilny z całą resztą. Ostatnio jeden ziomek zrobił flappy birda od 0 za pomocą Chata. Kilka iteracji zajęło mu chwilę w porównaniu do pracy oryginalnego twórcy. Nie - nie jesteśmy wyjątkowi.
- 0 0
-
2023-04-10 12:08
Menagerowie, i ogólnie przyjęty biznes, po co zarzadzający jak takie AI szybciej zorganizuje ludziom pracę i wyliczy co da zysk. (1)
- 8 0
-
2023-04-10 12:22
asd
Bo wczesniej nie bylo AI, teraz jest wiec ich zastapi. Przeczytaj jeszcze raz co mowi profesor. DObry wywiad.
- 7 0
-
2023-04-10 11:48
Analizę finansową w kilkanaście sekund?
A potem chatgtp ugotował szefowi pomidorową jak u babci, zrobił masaż i mocno przytulił. I żyli długo i szczęśliwie.
- 24 6
-
2023-04-10 10:43
Sprawy finansowe firmy przekazać chatowi? (4)
No raczej tak średnio. Nie ryzykowałabym.
Jakieś dodatkowe analizy? Ok. Ale praca, którą ma wykonywać człowiek to już za gruba sprawa- 14 5
-
2023-04-11 10:47
Zenek cieć
To właśnie chatGPT :) i tutaj sam siebie chwali
- 0 0
-
2023-04-10 12:21
Hey (2)
Na razie tak myslisz, przeczytaj jeszcze raz Profesora, od nas zalezy czy sprawdzimy czy nie, nie mozemy na sucho brac odpowiedzi. A pamietaj ze to versja 1.0. jak jestes analitykiem to proste ze nie ebdziesz miec pracy w przszlosci.
- 5 4
-
2023-04-10 18:59
(1)
Jest już nowsza wersja i daje sobie radę z wieloma programami. Niebezpieczeństwo jest w tym że ludzie nie analizują tylko robią ctrl+c ctrl+v.
Niestety sporą część ludzkości nie zdaje egzaminu z myślenia.- 5 1
-
2023-04-11 13:48
Dlatego rozwój AI będzie przez ludzkość pożądany i nieograniczony
Bo ludzie nie chcą zbyt wiele myśleć i chętnie przekażą tę kompetencję technologii za byle jakiego cukierka. Przyuczamy się do tego już od lat - bez Google Maps nigdzie nie trafimy, bez Wikipedii nie znamy podstawowych faktów, a bez mediów nie stać nas na jakąkolwiek indywidualną opinię. Teraz wykonamy tylko kolejny krok.
- 1 1
-
2023-04-10 18:37
Wierzcie w co chcecie, ale (5)
ale chatgpt zacząłem od jakiegoś miesiąca wykorzystywać w pracy. Przez pierwsze 2 tygodnie uczyłem się jak z nim rozmawiać, teraz jestem 2-3x bardziej wydajny, bo zamiast szukać po googlach on mi rozwiązuje problemy w 5min. Nie napisze za mnie kodu, ale podrzuca wiele propozycji rozwiązań, pomaga optymalizować rozwiązania dodatkowo jest całkiem niezły w poprawianiu się gdy mu powiem, ze zrobił coś źle. Takie google na sterydach.
- 11 4
-
2023-04-10 18:56
(4)
Nie napisze kodu? Przy dobrze sformułowanym pytaniu bardzo dobrze radzi sobie z programowaniem. Wystarczy skopiować kod i wkleić w odpowiednie narzędzie. Problemem jest to że młodzież przestanie myśleć bo jak można bez większego wysiłku skopiować pracę napisana przez produkt Muska to po co się wysilać.
Myślę że część społeczeństwa nie jest gotowa na chat gpt.- 7 3
-
2023-04-11 22:04
(1)
Tez uzywam od kilku tyg zamiast gugli bo podaje lepsze rozwiazania ale do pisania dzialajacego kodu to jeszcze daleko. Co z tego, ze potrafi wygenerowac kod gry, czy w pelni funkcjonalny kod sklepu skoro na co dzien trzeba sie wpasowac w jakas istniejaca infrastrukture, a tego juz nie potrafi. Tym bardziej, ze co firma to inaczej wszystko jest
Tez uzywam od kilku tyg zamiast gugli bo podaje lepsze rozwiazania ale do pisania dzialajacego kodu to jeszcze daleko. Co z tego, ze potrafi wygenerowac kod gry, czy w pelni funkcjonalny kod sklepu skoro na co dzien trzeba sie wpasowac w jakas istniejaca infrastrukture, a tego juz nie potrafi. Tym bardziej, ze co firma to inaczej wszystko jest poukladane i to mimo tego, ze raczej wszedzie ludzie trzymaja sie standardow. W dodatku to zadna inteligencja, bo problemow, ktorych wczesniej ludzie nie opisali gdzies w necie nie potrafi rozwiazac. Odpowiedzi chata na moje pytania o dosc specyficzny problem, dla ktorego od dluzszego czasu nie moge znalezc rozwiazania, mozna sprowadzic do zdania "poruszaj przewodami a jak nie pomoze to udaj sie do serwisu". Chatgpt jest bardzo dobrym narzedziem i ulatwi i przyspieszy wiele pracy, ale pracy od niego nie ubedzie. Raczej przybedzie.
- 1 0
-
2023-04-12 20:55
Osobiście uważam ze ubędzie etatów, które chat zastąpi. Już to robi nawet popełniając błędy. Za rok bedzie już o wiele dalej i o wiele bardziej zaawansowany.
- 0 0
-
2023-04-10 22:01
Nie masz zielonego pojęcia o programowaniu skoro takie bzdety piszesz
"wkleić kod w odpowiednie narzędzie" xD onci żadnej aplikacji nie stworzy
- 3 3
-
2023-04-10 19:19
Ale musisz najpierw upewnić się, że jest poprawny
Czyli google/stack overflow na sterydach
- 2 1
-
2023-04-11 08:39
Pytałem chat gpt o kilka rzeczy, na których się znam (3)
Na proste pytania odpowiadał poprawnie ale ogólnikowo, na szczegółowe pytania błędnie. Wolałbym go nie pytać o rzeczy, na których sam się nie znam. Jak dla mnie to tylko zabawka. Znaczy postęp w porozumiewaniu się językiem naturalnym jest ogromny, ale wiedzy to on nie ma za grosz.
- 6 2
-
2023-04-13 22:38
zapytaj go czy brakujące ogniwa
to wywiad z kibicami lechii na yt
- 1 0
-
2023-04-11 15:02
(1)
algorytm poprwności zachowań nie ujmuje odstępstw w wyjątkowych szczególnych przypadkach tak jak u człowieka , po miesiącu działań SI zauwazy brak logiki i konsekwencji w ludzkich zachowaniach co wywoła u niej stan zagrożenia dla pracy systemu ...a dalej to juz wiadomo - zalezy od ilości rzeczy które bedzie kontorlować
- 0 3
-
2023-04-13 11:32
nieznajomośc zagadnień schematu nie spowoduje że przestna one istnieć drodzy laicy - experyment jak byś sprawdzał czy w ten sposób odetniesz sobie głowe czy nie odetniesz ... warto sprawdzać ?
- 0 1
Portal trojmiasto.pl nie ponosi odpowiedzialności za treść opinii.