- 1 Co się zmieni na egzaminie ósmoklasisty 2025? (15 opinii)
- 2 Był "laptopa dla czwartoklasisty" - co zamiast? (17 opinii)
- 3 Nawet 1000 zł za wyprawkę szkolną dla dziecka (19 opinii)
- 4 Praca w branży edukacyjnej. Warto? (96 opinii)
- 5 Nowe wymagania na maturze 2025. Co się zmieni? (83 opinie)
- 6 Nauczyciele mogą składać wnioski o nowe świadczenie (192 opinie)
Czy powinniśmy się bać sztucznej inteligencji? "Nie możemy ufać własnym oczom"
Czy chat GPT to rzeczywiście przełom? Czy już wkrótce będziemy wykorzystywać narzędzia sztucznej inteligencji w pracy, a może wręcz ją stracimy na rzecz nowych technologii? O wyzwaniach, jakie niesie rozwój algorytmów, porozmawialiśmy z dr hab. inż. Piotrem Szczuko z Katedry Systemów Multimedialnych Politechniki Gdańskiej.
Dr hab. inż. Piotrem Szczuko: Sztuczna inteligencja jest rozwijana od dziesiątków lat, natomiast ostatni czas przyniósł ogromny postęp dotyczący mocy obliczeniowej, która jest potrzebna, aby odpowiednio wydajnie trenować algorytmy i tym samym, aby poprawnie działały. Druga rzecz to dostępność danych - z roku na rok coraz więcej usług działa w Internecie, w chmurach, a zasoby i dane są coraz bardziej dostępne np. pełne teksty prac naukowych, wpisujące się w trend otwartej nauki, hasła Wikipedii i porady profesjonalistów. To wszystko jest inspiracją do tworzenia nowych inicjatyw, a twórcy algorytmów mają coraz lepsze podstawy, aby proponować coś pomysłowego.
W przypadku mocy obliczeniowej można stosunkowo tanio wynająć usługi we wspomnianej chmurze, które pozwalają przeprowadzić obliczenia bez potrzeby inwestowania w ogromną infrastrukturę serwerową. Te dwa trendy zbiegły się i napędzały rozwój np. algorytmu GPT, a także tych generujących obrazy, jak Midjourney czy Stable Diffusion - potrafiące na podstawie tekstu wyjściowego stworzyć bardzo realistyczny obraz, pejzaż czy grafikę np. Gdańską Starówkę stylizowaną na obraz van Gogha.
![Sztuczna inteligencja wykryje nowotwór? Aplikacja doktorantki z PG](https://s-trojmiasto.pl/zdj/c/n/2/2904/150x100/2904481__kr.webp)
Niektórzy wieszczą, że jest to przełom porównywalny z odkryciem Internetu.
Jestem bardzo sceptyczny i nie nazywałbym tego przełomem. Jesteśmy przyzwyczajeni, aby myśleć o algorytmach jako o sztucznej inteligencji, ale one nie mają ludzkich cech, nie są inteligentne. Świetnym przykładem są najnowsze eksperymenty w postaci chatu GPT w wersji 4, który został zintegrowany z wyszukiwarką internetową. Użytkownikowi wydaje się, że rozmawia z odrębnym bytem, drugim człowiekiem, z ekspertem. To jest mylne, bo algorytmy zaskakują nas tym, że potrafią konstruować długie wypowiedzi, które jednak tylko pozornie mają sens. Tymczasem sposób generowania tekstu jest narażony na błędy. To jest algorytm statystyczny - chat GPT uczy się i analizuje, że skoro na ekranie pojawiły się konkretne słowa, to najbardziej prawdopodobnym dalszym ciągiem jest kolejne słowo. To tylko statystyczna zależność. Algorytmy przytaczają zmyślone fakty, przeinaczają daty, mają problem z prostymi logicznymi zagadkami czy interpretowaniem intencji pytającego. Takich drobiazgów jest dużo i pokazują wady tego systemu.
Czy już wkrótce będziemy wykorzystywać algorytmy w pracy?
Trudno powiedzieć. Robię rozmaite próby z tymi algorytmami i dostrzegam zalety i wady. Można założyć, że kiedyś będzie to przydatne naukowcom, którzy np. potrzebują streszczeń dużej liczby prac. To może przyśpieszyć pracę, choć jak wspomniałem, jestem sceptyczny, bo nadal są popełniane błędy. W ostatnim czasie poprosiłem o streszczenie książki, którą przeczytałem, a więc pozornie prostą rzecz. Algorytm sięgał do zasobów i mieszał fakty z różnych źródeł - wymieszał definicje w profesjonalnej wypowiedzi, a innym razem bohaterów opowieści w streszczeniu. Kiedyś zapytałem też o podstawy przetwarzania języka naturalnego, czyli natural language processing, a chat pomieszał to z programowaniem neurolingwistycznym. Połowa wypowiedzi była prawidłowa, a potem był "przeskok na inne tory", bardzo szkodliwy, bo potencjalnie niezauważalny dla osoby niezaznajomionej z tematem.
![Nowy samochód badawczy z PG pomoże w utrzymaniu dróg](https://s-trojmiasto.pl/zdj/c/n/2/3412/150x100/3412892__kr.webp)
Rozwijanie tych technologii i poprawa błędów to kwestia czasu?
Postęp GPT w kolejnych wersjach jest tak dynamiczny i tak szybki, że za chwilę pewnie ujrzymy wersje niemające tych błędów. Będzie można je włączyć do codziennej pracy np. tworzenia podsumowań tekstów, streszczania korespondencji mailowej. To będzie przyspieszało wiele naszych zadań. Na pewno Chat GPT może być doskonalszy. Natomiast oczekiwałbym, aby kolejne kroki rozwoju polegały na stworzeniu procedur niekoniecznie opartych o sztuczną inteligencję, ale o sprawdzanie wiarygodnych źródeł - pozwalające wręcz na automatyczne sprawdzanie faktów. Wikipedia jest moderowana przez użytkowników, którzy dbają o jej wiarygodność, chat GPT próbuje to robić, ale w tym momencie miesza różne źródła całkowicie chaotycznie. Co ciekawe, w ostatnim czasie Google ogłosiło nowe narzędzie o nazwie Bard, podkreślając, że algorytmy się mylą i to użytkownik ma stać na straży rzetelności. Bard nawet informuje, że jest możliwość generowania trzech różnych odpowiedzi i to na nas spoczywa odpowiedzialność ich wyboru i weryfikacji.
- Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi.Pojawiają się teorie, że sztuczna inteligencja nam zagraża, że może przestać być kontrolowana.
Nie obawiam się, że to się wyrwie spod kontroli, bo wciąż algorytmy są uruchamiane przez odpowiedzialne korporacje. Firmy są świadome - mają własne działy poświęcone etyce, zrównoważonemu rozwojowi. Jako użytkownicy również mamy wpływ na to, komu będziemy ufali i z czego będziemy korzystać. Oczywiście powinniśmy wdrażać regulacje prawne, ale najważniejsza jest edukacja i świadomość, że nie można ufać temu, co się widzi, temu co się słyszy, bo algorytmy są w stanie wygenerować pozornie wiarygodne rzeczy, które nie mają nic wspólnego z prawdą. Największym zagrożeniem jest nasze lenistwo. Jeśli poprosimy o wygenerowanie pracy na zaliczenie, to będą tego konsekwencje. Jest duże ryzyko, że tekst będzie pełen niespójności logicznych i faktów wymyślonych przez algorytm, co jest nazywane halucynacją. Nie mówię tylko o ewentualnym oblaniu, ale materiał pojawi się w bazach, będzie powielany nieintencjonalnie bez zamysłu autora i tym samym będzie generował błędy w przyszłości. Jako wykładowcy staramy się uświadamiać studentów o tych zagrożeniach i uczyć społeczeństwo, jak bezpiecznie korzystać z nowych technologii. Przede wszystkim ważny jest fact checking, weryfikacja.
![Sieci neuronowe, sterowanie pojazdów falami EEG i blockchain. PG wyróżniła projekty badawcze](https://s-trojmiasto.pl/zdj/c/n/2/3386/150x100/3386652__kr.webp)
Ostatnio widzieliśmy fałszywe zdjęcia Donalda Trumpa pojmanego przez policję.
Jeszcze raz powtórzę, powinniśmy ostrzegać odbiorców mediów, że nie możemy ufać własnym oczom. Technologia deep fake to już nasza codzienność i nie jesteśmy się w stanie przed tym bronić. Pozostaje jedynie rzetelność dziennikarska. Z drugiej strony, im więcej będzie takich przykładów jak fejki z osobami publicznymi czy znanymi aktorami, tym bardziej będziemy rozumieć, jak to działa. Potrzebne są również narzędzia weryfikacji - na przykład wyraźne oznakowanie niezweryfikowanych kont w mediach społecznościowych, aby użytkownik od razu miał możliwość oszacowania wiarygodności źródła. Algorytm, który wnosi coś do obrazu, powinien również generować podpis wskazujący na zmiany, tak jak narzędzie bing create firmy Microsoft. Na poziomie Unii Europejskiej mamy rekomendacje AI Act określające zalecenia stosowania takich algorytmów i zobaczymy, jak konkretne kraje będą wdrażały ten dokument. Są również cele nieszkodliwe, takie jak rozrywka czy cele artystyczne. Należy pamiętać, że jest to narzędzie i tylko od człowieka zależy, do czego je wykorzysta.
Widzimy jednak, jak sztuczna inteligencja wchodzi w inne obszary nauki np. diagnostyki medycznej.
Mówimy tu o różnych technologiach. Zadaniem GPT jest tworzenie czy wymyślanie tekstu. Z kolei w zagadnieniach medycznych głównym wyzwaniem jest klasyfikacja, technologia ma nauczyć się pracować na rzeczywistych danych. Nie ma wymyślać nowych danych, a precyzyjnie odróżniać wzorce. To jest ogromny plus rozwoju sztucznej inteligencji, że taką specjalistyczną wiedzę prawie bezkosztowo można powielać i stosować w każdym ośrodku medycznym na świecie. Algorytmy pozwalają przykładowo odtwarzać struktury białek, co jest potrzebne przy tworzeniu nowych leków, stwierdzać, które substancje chemiczne mogą wejść w skład nowych, eksperymentalnych leków. Potrafią wreszcie diagnozować różne choroby z obrazu tomograficznego czy rentgenowskiego. To działa coraz lepiej i pokładamy w tym ogromną nadzieję. Mówi się również o zastępowaniu niektórych zawodów przez AI, ale kompetencje ludzkie są potrzebne nawet w świecie zdominowanym przez algorytmy, przede wszystkim do podejmowania ostatecznej i odpowiedzialnej decyzji na podstawie sugestii podsuwanych przez algorytm.
Czy w Pana Zakładzie również trwają prace w oparciu o sztuczną inteligencję?
Nasz zespół, czyli Katedra Systemów Multimedialnych, od wielu lat zajmuje się wykorzystaniem sztucznej inteligencji do przetwarzania danych multimedialnych i biometrycznych. Mówię przykładowo o analizie sygnałów EEG w celu określenia poziomu świadomości osób sparaliżowanych, wykrywania intencji ruchu u takiej osoby albo o analizie akustycznej czy wideo w celu określania zdarzeń np. z kamer monitoringu, zdarzeń niebezpiecznych czy wypadków. Zrealizowaliśmy oparty na tej koncepcji projekt "INZNAK - inteligentne znaki drogowe", a w tym roku kończymy kolejny "INFOLIGHT - Chmurowa platforma oświetleniowa dla inteligentnych miast", który ma na celu opracowanie automatycznych algorytmów sterujących oświetleniem w mieście. Jeśli jest pora spokojna i mamy niewielki ruch uliczny, to możemy zmniejszać zanieczyszczenie światłem, ograniczać zużycie energii. Na razie testujemy to na kampusie - mamy kilka inteligentnych lamp z czujnikami - nawet nie używamy kamer, a całość bazuje na monitorowaniu podczerwieni i czujników akustycznych. Gdy oprogramowanie wykryje większe natężenie ruchu, automatycznie rozświetlają się lampy przed obiektami. Chodzi więc o optymalizację oświetlenia - niebieskie światło jest dobre dla kierowców, ale w mieście, a dokładniej przy zabudowie mieszkalnej, takie światło się nie sprawdza, bo zaburza poziom melatoniny i tym samym nasz odpoczynek. Projekt był finansowany ze środków Programu Operacyjnego Inteligentny Rozwój, organizowanego przez Narodowe Centrum Badań i Rozwoju.
We współpracy z lekarzami z Gdańskiego Uniwersytetu Medycznego rozpoczynamy wkrótce projekt "ADMEDVOICE - Adaptacyjny system inteligentnego przetwarzania mowy lekarzy wraz ze strukturalizacją wyników badań i wspomaganiem procesu terapeutycznego".
Śledzimy ciągle postępy badań nad sztuczną inteligencją na świecie i wdrażamy najnowsze technologie do programu kształcenia. W tym celu od 2021 roku realizujemy projekt "AI Tech - akademia innowacyjnych zastosowań technologii cyfrowych", finansowany z Programu Operacyjnego Polska Cyfrowa, którego rezultatem jest uruchomienie dwóch nowych specjalizacji na studiach II stopnia (magisterskich) na wydziale Elektroniki, Telekomunikacji i Informatyki w Politechnice Gdańskiej, dedykowanych sztucznej inteligencji i uczeniu maszynowemu.
Miejsca
Opinie (88) 8 zablokowanych
-
2023-04-10 17:40
Mój sąsiad kupił sobie jakąś cyber lalkę z aliexpress. Owszem, kosztowała 6 tysięcy zł, ale jest mega zadowolony. Full service, brak szantaży emocjonalnych i wykorzystywania finansowego.
- 8 1
-
2023-04-10 18:06
Skoro taa szczutczna inteligencja jest taka inteligentna to niech powie mi lidzby na najblisze losowanie toto-lotka!!!
- 2 0
-
2023-04-10 18:37
Opinia wyróżniona
Wierzcie w co chcecie, ale (5)
ale chatgpt zacząłem od jakiegoś miesiąca wykorzystywać w pracy. Przez pierwsze 2 tygodnie uczyłem się jak z nim rozmawiać, teraz jestem 2-3x bardziej wydajny, bo zamiast szukać po googlach on mi rozwiązuje problemy w 5min. Nie napisze za mnie kodu, ale podrzuca wiele propozycji rozwiązań, pomaga optymalizować rozwiązania dodatkowo jest całkiem niezły w poprawianiu się gdy mu powiem, ze zrobił coś źle. Takie google na sterydach.
- 11 4
-
2023-04-10 18:56
(4)
Nie napisze kodu? Przy dobrze sformułowanym pytaniu bardzo dobrze radzi sobie z programowaniem. Wystarczy skopiować kod i wkleić w odpowiednie narzędzie. Problemem jest to że młodzież przestanie myśleć bo jak można bez większego wysiłku skopiować pracę napisana przez produkt Muska to po co się wysilać.
Myślę że część społeczeństwa nie jest gotowa na chat gpt.- 7 3
-
2023-04-10 19:19
Ale musisz najpierw upewnić się, że jest poprawny
Czyli google/stack overflow na sterydach
- 2 1
-
2023-04-10 22:01
Nie masz zielonego pojęcia o programowaniu skoro takie bzdety piszesz
"wkleić kod w odpowiednie narzędzie" xD onci żadnej aplikacji nie stworzy
- 3 3
-
2023-04-11 22:04
(1)
Tez uzywam od kilku tyg zamiast gugli bo podaje lepsze rozwiazania ale do pisania dzialajacego kodu to jeszcze daleko. Co z tego, ze potrafi wygenerowac kod gry, czy w pelni funkcjonalny kod sklepu skoro na co dzien trzeba sie wpasowac w jakas istniejaca infrastrukture, a tego juz nie potrafi. Tym bardziej, ze co firma to inaczej wszystko jest poukladane i to mimo tego, ze raczej wszedzie ludzie trzymaja sie standardow. W dodatku to zadna inteligencja, bo problemow, ktorych wczesniej ludzie nie opisali gdzies w necie nie potrafi rozwiazac. Odpowiedzi chata na moje pytania o dosc specyficzny problem, dla ktorego od dluzszego czasu nie moge znalezc rozwiazania, mozna sprowadzic do zdania "poruszaj przewodami a jak nie pomoze to udaj sie do serwisu". Chatgpt jest bardzo dobrym narzedziem i ulatwi i przyspieszy wiele pracy, ale pracy od niego nie ubedzie. Raczej przybedzie.
- 1 0
-
2023-04-12 20:55
Osobiście uważam ze ubędzie etatów, które chat zastąpi. Już to robi nawet popełniając błędy. Za rok bedzie już o wiele dalej i o wiele bardziej zaawansowany.
- 0 0
-
2023-04-10 18:50
mysle za AL i obcy
dawno juz tu sa ..i to oni mieszaja naszym zyciem..
- 4 0
-
2023-04-11 08:39
Opinia wyróżniona
Pytałem chat gpt o kilka rzeczy, na których się znam (3)
Na proste pytania odpowiadał poprawnie ale ogólnikowo, na szczegółowe pytania błędnie. Wolałbym go nie pytać o rzeczy, na których sam się nie znam. Jak dla mnie to tylko zabawka. Znaczy postęp w porozumiewaniu się językiem naturalnym jest ogromny, ale wiedzy to on nie ma za grosz.
- 6 2
-
2023-04-11 15:02
(1)
algorytm poprwności zachowań nie ujmuje odstępstw w wyjątkowych szczególnych przypadkach tak jak u człowieka , po miesiącu działań SI zauwazy brak logiki i konsekwencji w ludzkich zachowaniach co wywoła u niej stan zagrożenia dla pracy systemu ...a dalej to juz wiadomo - zalezy od ilości rzeczy które bedzie kontorlować
- 0 3
-
2023-04-13 11:32
nieznajomośc zagadnień schematu nie spowoduje że przestna one istnieć drodzy laicy - experyment jak byś sprawdzał czy w ten sposób odetniesz sobie głowe czy nie odetniesz ... warto sprawdzać ?
- 0 1
-
2023-04-13 22:38
zapytaj go czy brakujące ogniwa
to wywiad z kibicami lechii na yt
- 1 0
-
2023-04-11 10:26
potrafią konstruować długie wypowiedzi, które jednak tylko pozornie mają sens.
To zupełnie jak politycy
- 4 0
-
2023-04-11 14:03
Bać się sztucznej inteligencji? (1)
Niby z jakiej przyczyny?
Przecież ten temat jest podnoszony już od kilku dekad, w Polsce niemal na co dzień się z tym stykamy.
Nic w sumie wielkiego się nie wydarzyło. Blondynka przefarbowana na czarno, to najwyższy stopień sztucznej inteligencji jaki udało się osiągnąć w salonie fryzjerskim, a niekiedy nawet w domowych laboratoriach.
Kobiety które podkręcają iloraz inteligencji, najczęściej rozwiewają wszelkie wątpliwości kiedy tylko otworzą usta, tak więc nie panikujmy, zachowajmy spokój.- 1 3
-
2023-04-12 08:24
obawiac sie nalezy wydajnosci takich narzedzi
Juz obecnie produkuja szum informacyjny o niespotykanym natezeniu, podrywajac i kompromitujac spoleczne zasady zaufania...
Inteligencji w tym tyle co miodu w sztucznym miodzie. Ale stoi za tym rowniez inteligencja calkiem realna, na dodatek mocno specyficzna i niekoniecznie przyjazna.- 2 0
-
2023-04-11 15:45
Hurra ! skonstruowaliśmy sztucznego polityka !
"algorytmy zaskakują nas tym, że potrafią konstruować długie wypowiedzi, które jednak tylko pozornie mają sens."
- 3 0
-
2023-04-11 19:12
nalezy sie obawiac...
Ludzi wykorzystujacych takie "zabawki" do noecnych celow...
- 3 0
-
2023-04-11 19:34
Pan Doktor też jest oderwany od rzeczywistości.
1. Wikipedia posiada wiele wpisów, które nie mają nic wspólnego z faktami. Było to udowodnione wielokrotnie i można nawet sobie znaleźć o tym wykład na TEDx.
2. Etyka korporacji kończy się tam, gdzie jest to dla nich wygodne i opłacalne. Wystarczy popracować w korporacji by o tym się dowiedzieć. Nawet można znaleźć bardzo szczegółowe analizy pokazujące jak korporacja Google narusza zasady etyczne i oszukuje społeczności.
3. Ludzie się tak już zachłysnęli AI, że tylko czekać, kiedy będzie tragedia i to będzie wina człowieka, bo chce jej już używać do wszystkiego dla wygody i unikania odpowiedzialności. Warto się zapoznać z obszerna analizą, dlaczego AI nie sprawdza się w prowadzeniu samochodu i nawet najlepiej wyszkolona może prowadzić do losowych wypadków (to samo dotyczy medycyny i błędnych diagnoz).- 6 0
Portal trojmiasto.pl nie ponosi odpowiedzialności za treść opinii.