AI och Deep Learning med ett hårdvaruperspektiv

Den 25:e januari bjöd Conoa in tillsammans med sin kund Scania och partners IBM och NVIDIA på en förmiddag kring AI med tyngdpunkt på hårdvaruperspektivet. C.A.G Edge var på plats och lyssnade.

AI och Deep Learning med ett hårdvaruperspektiv

AI och Deep Learning med ett hårdvaruperspektiv 150 150 C.A.G

Mikael Haglund CTO på IBM Sweden började med ett inspirationsföredrag vad IBM tror om utvecklingen och vad IBM gör. En slutsats är att AI inte är ett eget område utan kommer att influera alla områden.

Han berättade och om IBMs arbete med kvantdatorer, och berättade om några möjliga applikationsområden förutom att knäcka krypton. Problemområden där man är behjälpt av en kvantdator är begränsade. Idag har IBM en kvantdator med 17-qubits, man håller på att installera en med 50. Det är samma sorts skillnad på prestanda mellan 17 och 50 bitar i en kvantdator som skillnaden i antalet riskorn på schackbrädet på 17:e respektive 50:e rutan.

AI är drivet av data, och man bedömer att datamängden vi behöver hantera ökar exponentiellt och bara en del av denna data är vad man kallar strukturerat enterprise-data. Resten är ostrukturerat data, till exempel media.

IBM har många produkter och områden och prefixar många med “Watson”. Hos IBM äger kunden sitt data, tryckte han på, till skillnad från t.ex. Amazon där detta är otydligare och per API.

TJ bot är en experimentplattform IoT som är gjord för att demonstrera watson-API-er.

IBM har bland annat en tjänst som kan analysera en långfilm och sätta ihop en trailer baserat på nyckelscener i filmen, men utan att röja slutklämmen. Han visade också hur programvaran analyserat en Golftävling och kunde gradera “Exitement level” för olika klipp.

Erik Lönroth på Scania fortsatte och berättade om HPC på Scania och om Scanias arbete med AI i samband med körassistans och självkörande lastbilar. Scania satsar inte på självkörande lastbilar för stadstrafik utan på system som klarar begränsade och kontrollerade miljöer som t.ex. gruvor. Google får fixa stadstrafiken. Scanias arbete med AI är praktiskt och jordnära och man är i behov av kompetenta partners inom området AI och ML.

Leif Nordlund på NVIDIA berättade att NVIDIA har satt ordentlig fart de senaste två åren, bortom sitt gamla område grafikkort till speldatorer med satsningar på hårdvara för machine learning och AI för data centers och självkörande fordon.

Utvecklingen av hårdvaruprestanda för NVIDIAs GPUer den senaste tiden är imponerande:

En intressant iakttagelse är historiska prestandaökningar på CPU vs GPU där CPU rör sig med 1.1x/år och GPU med 1.5x/år. Fördel GPU här.

Med sikte på fordon släppter NVIDIA snart Pegasus, ett kompakt paket med mycket imponerande prestanda.

Henrik Holst från NVIDIA fortsatte med att berätta om mjukvara kring ML.

Ramverk för ML innehåller följande kärnområden:

  • Tensors
  • Computational graph
  • Automatic differentiation
  • Accelerated computing
  • Gradient computation

Vanliga ramverk/bibliotek är Tensorflow, PyTorch, Theano, Caffe, CNTK.

Patrik Gunnerström på Conoa berättade om OpenPOWER foundation (typ Linux men för hårdvara) där i princip alla utom Intel är medlemmar.

Eftersom CPU:er är begränsade prestandamåssigt är tekniker för accelerering intressanta, till exempel GPU, och kryptering.

PCI-bussen är begränsande, OpenCapi och NVLInk är lösningar på detta med högre bandbredd och lägre latens.

Hårdvaruprestanda kan bli signifikanta för ML-projekt eftersom ledtiderna för maskininlärningen ofta är det som ligger på kritiska linjen.

Sammantaget var det en mycket intressant förmiddag och intressanta och trevliga möten med kollegor och likasinnade.

 

Kontaktperson

Daniel Marell

+46 70 563 10 52

daniel.marell@cag.se

    X
    X